El problema de la IA

Actualment vivim un auge de les possibilitats de la intel·ligència artificial (IA) que es plasmen en aplicacions que ens semblen màgiques. La gran capacitat de procés de càlcul actual ha permès que es puguin desenvolupar xarxes neuronals que són capaces de respondre, tant al camp de reconeixement com al de predicció, amb gran eficiència als problemes plantejats.

Tant és així, que avui dia i en el processament de llenguatge, algunes de les aplicacions han passat els tests de Turing que fa anys definien si un algorisme era capaç d'enganyar un ésser humà suplantant-ne un altre.

Però hem de recordar que tots aquests processos de LLM (large Language Models) es basen en dos punts claus:

• la gran capacitat de processar dades d'aprenentatge per perfilar models neuronals
• responen a prediccions estadístiques basades en les dades que han servit per a l'aprenentatge

Els perills de la IA resideixen justament a l'engany, que produeix un efecte increïble de realitat falsa. Si a això hi afegim la tendència d'antropomorfitzar que tenim els humans davant de qualsevol cosa que dóna signes de semblar una cosa viva o intel·ligent, aconseguim arrodonir la il·lusió.

Si veiem un peluix adorable, ens costa esquinçar-lo i llençar-lo a les escombraries. Si tenim animals, els parlem com si fossin persones. Si hi ha taques aleatòries en una paret, el cervell intenta localitzar cares. Aquesta qualitat del cervell ens indueix a pensar que una IA, que respon de manera coherent a les nostres preguntes, ha d'entendre el que ens diu. I si afegim que les IA poden recordar el context, aleshores no ho dubtem.

Si recordem el cas de Blake Lemoine, un enginyer de programari de Google, que va tenir converses amb la IA LaMDA i va concloure que n'era conscient. A banda que és molt prematur dir que un procés tan simple, comparat amb les nostres neurones, sigui conscient, tenim molt camí per poder generar IAs prou complexes com perquè generin consciència.

Tot i que el primer que hauríem de fer és definir què és la consciència.

Però aquest és un problema subjectiu si acceptem que cadascú pot pensar que les IA són conscients. El que és realment perillós és que la gent comenci a confiar en les respostes d'una IA que no sigui una aplicació experta, com ara la detecció de càncers en tomografies, determinació de tractaments farmacològics o ajuda a la programació per predicció de codi, simplement perquè ens convenç allò que ens respon.

Finalment recordem també el cas de LinkedIn, en què un entrenament esbiaixat va permetre que la IA oferís llocs de treball als candidats influenciat pel sexe indicat al currículum i oferint llocs més ben pagats als homes.

En resum, que és molt aviat per dipositar tota la nostra confiança en les IA. El camí és llarg i esperançador, però no ens hem de conformar amb els primers èxits, per molt fantàstics que semblin.