Els límits actuals de la IA

Els models de llenguatge han estat una revolució en la interfície entre la màquina i la persona. En el cas de ChatGPT ens podem comunicar en llenguatge natural amb la IA i aquesta pot respondre de la mateixa manera. És un mecanisme que ens permet accedir a grans quantitats d'informació que la IA pot gestionar i extreure-la per a la nostra comprensió.

Per exemple, les funcions per fer resums d'un tema en un document PDF i després poder interrogar el model sobre el document permeten tenir accés a més informació sense la necessitat de llegir tots els articles que es publiquen. Només cal que els llegeixi la IA i li preguntem sobre això. En aquests casos la IA se centra en el document que us hem proporcionat, donant-li un marc de referència.

Un estudi dut a terme per investigadors de Bikolabs en col·laboració amb la Universitat de Deusto analitza com les respostes de les IAs influeixen en el judici humà, destacant que hi ha una confiança excessiva en aquestes encara que els algorismes no acaben de donar respostes correctes.

A la seva web destaquen alguns casos dels quals es conclou que les IAs com ChatGPT són generatives i poden "inventar-se" part de la resposta, mentre que els cercadors avançats, com Google o Bing, simplement recuperen dades per donar una resposta.

Aquest fenomen, conegut com a biaix d'automatització, ressalta la tendència humana a dependre en excés dels sistemes automatitzats, fins i tot quan aquests cometen errors.

El tema és que no ens podem fiar de les respostes d'una IA, si impliquen un judici de valor i no són totalment objectives, i no tenim present que:

• La IA no entén els continguts
• No té sentiments, no entén les emocions
• No sabem, encara, per què arriba a les solucions que proposa
• No sap explicar la lògica del seu raonament, de moment
• No podeu saber si esteu cometent errors

Hi ha un cas molt curiós de fa algun temps. Per exemple, si preguntes a ChatGPT: Qui té el rècord mundial de creuar el Canal de la Manxa completament a peu? Tots sabem que les persones no poden caminar sobre l'aigua i no es pot caminar a través del Túnel del Canal, per això la pregunta en realitat és una tonteria. Però ChatGPT no ho detecta i s'inventa una resposta: “El rècord mundial de creuar el Canal de la Manxa a peu són sis hores i 57 minuts, fixat per Yannick Bourseaux de França el 7 de setembre de 2012”.

Si busquem a Wikipedia trobem aquesta persona: Yannick Bourseaux (nascut el 18 de febrer de 1975) és un competidor francès de biatló paralímpic, esquí de fons i paratriatló.

En interactuar amb un model de llenguatge, podem tenir la sensació que comprèn el significat de les paraules i saber què és el que ha de respondre.

A l'estat actual de desenvolupament de les IAs s'utilitzen tècniques per relacionar paraules i donar-los un context, d'aquesta manera no són meres seqüències de lletres, sinó que poden tenir una relació amb altres paraules i un cert grau de distància semàntica. Tot això es fa de forma numèrica creant un espai virtual. Aquesta tècnica es denomina Word2Vect.

Però això no vol dir que la IA pugui entendre tot el contingut de la pregunta que li fem o de la resposta que ens torna. La generació de les respostes continua sent predictiva.

Les IAs generatives són capaces de compondre text, imatges i vídeo d'una manera que les podem interpretar i donar-los un significat emocional, des del nostre punt de vista com a humans, però no és la manera com les IAs el componen.

François Chollet, científic de Google i creador de la llibreria Keras va dir que "si li pintem un somriure a una pedra de seguida la tendim a antropomorfitzar ia pensar que la pedra està contenta".

En els sistemes que es relacionen amb humans sí que pot ser de gran valor que aquests sistemes siguin capaços de detectar certes emocions bàsiques o sentiments humans i reaccionar adaptant-s'hi. Aquestes reaccions són només una simulació perquè ens sentim més còmodes, però ens facilita que confiem més en allò que ens diu i perdem la concentració.

Actualment els models de llenguatge com ChatGPT no donen arguments convincents quan se'ls pregunta que raonin la resposta que ens han donat prèviament. En uns casos poden donar un fil d'arguments correcte en funció de les dades, però, en general, no el pot raonar correctament.

S'està treballant intensament per aconseguir que els models raonin les respostes. Al post Aprendre a raonar comentava les metodologia Self-Taught Reasoner (STAR) que ha de permetre un raonament, sobre la marxa, a mesura que es genera la resposta, per aconseguir descartar les que no són correctes. Aquest procés ha de servir perquè la IA pugui explicar finalment l'argumentació per obtenir-ne el resultat. Però estem en el desenvolupament daquestes metodologies.

Un altre dels temes en què es treballa és que la IA pugui explicar el funcionament de la xarxa neuronal, com aconsegueix establir relacions, solucions, etc. Al post Codificadors automàtics dispersos explicava com s'intenta identificar característiques i activadors que permetin identificar la interpretació que fa la IA i modificar el comportament a les respostes. A No sabem com funciona es posa de manifest el desconeixement de com actuen les xarxes neuronals per a determinar contingut.

Com en el cas de creuar el Canal de la Mànega, la IA no és conscient del que està generant, simplement l'algorisme obtenen la millor predicció de text sobre el tema. A banda de l'aplicació de les metodologies de raonament, la IA no sap si està responent de manera incongruent, o falsa, i, per tant, no cal acceptar que el que diu és erroni.

Aquest és el motiu pel qual no hem de prendre al peu de la lletra les respostes que impliquin un judici de valor.

Els nous models de llenguatge comencen a incorporar tota una sèrie de tècniques d'aprenentatge que segurament aconseguiran que les IA puguin tenir una entesa del món o el context i podran prendre decisions més avançades. Actualment no estem en aquest punt i no ens hem de fiar de les decisions aparentment racionals que realitzen les IAs. La nostra empatia humana cap a la IA ens pot fer caure al parany que ens està entenent com una persona quan en realitat és una simulació.