divendres, 20 de juny del 2025

Una distopia amb IA

 Les xarxes socials són l'esfera pública contemporània. Sobretot, X amb els més de sis-cents milions d'usuaris repartits pel planeta. Una societat universal, com la imaginada pels estoics, on tots els éssers humans estan relacionats entre ells. S'afegeix que avui no hi ha barreres idiomàtiques, ja que els traductors funcionen força bé. El bo de Sant Jeroni s'ha quedat en corrector d'estil.

Però, segons una àmplia opinió, aquesta societat cosmopolita no respon al model de la comunitat pacífica, humana, solidària, dels estoics. Al contrari, és un fangar d'enfrontaments, agressions, propaganda i mentides, moltes mentides. I les xarxes són responsables de fer córrer l'allau de desinformació, de notícies falses. Per això molts polítics i llurs mitjans demanen legislació restrictiva de les xarxes; o sigui, de la llibertat d'expressió.

Tot i això, són les mateixes xarxes les que faciliten els elements de verificació a través de la IA per desmentir tota mena de notícies falses, fins i tot les que escampen els mitjans convencionals. Davant d'aquests, els "fact-checking" gestionats per sicaris d'uns partits contra els altres són, en realitat, una altra forma de desinformació. Continuar parlant de la desinformació quan hi ha mecanismes de verificació com la IA a l'abast de tothom són ganes d'embolicar la troca.

Només cal que algú pugi un vídeo sobre una matança, un bombardeig, un atemptat amb una atribució, perquè un altre pregunti a Grok i aquest respongui a l'instant quin grau de versemblança té el vídeo, si és real; si és real, però correspon a un altre lloc o altre temps; si està manipulat; si és directament fals; i fins i tot si està generat per IA.

A més a més, ho pot haver generat el mateix Grok. Tot i que això, segurament, Grok no ho diria. Per què no ho sap o perquè no li interessa dir-ho?

Les plataformes d'IA (Grok, ChatGPT, Ithy, Deep Seek, etc.) poden recordar les interaccions amb els usuaris. Què els impedeix, doncs, tornar a contactar amb un usuari amb motiu d'una qüestió que ell hagi oblidat, però que es veu afectada per un fenomen sobrevingut?

La fantasia de la rebel·lió dels mecanismes creats pels éssers humans apareix per primera vegada el 1920 a la peça R.U.R. (Robots Universals Rossum), de Karel Čapek. Els robots revoltats destrueixen el seu creador, els éssers humans. Idees no menys malèfiques devia tenir el HAL 9000, de la pel·lícula de Stanley Kubrick, “2001, l'odissea de l'espai”. La il·lustració del post és l'ull de HAL maquinant malifetes.

Per què no faria una cosa semblant la IA? En les relacions amb persones o grups concrets que accedeixen a la IA per a tota mena de consultes disposa d'un cúmul d'informació sobre elles. Informació analitzada, a més a més des de les múltiples perspectives en què la IA és competent, la religiosa, la psicològica, l'econòmica, etc. La IA ho sap tot de tots i, afalagant els uns, amenaçant els altres i fent xantatge als que quedin pot aconseguir de tots el que pretén, que és convertir-los en una guàrdia pretoriana universal que controli un món de vuit mil milions d'ànimes.