No sabem com funciona

Els enginyers d'OpenAI estan buscant un mètode per saber com funciona una IA com ChatGPT. Els investigadors afirmen que “Els models lingüístics són cada cop més capaços i estan més estesos, però no entenem com funcionen.”

Aquests models de llenguatge són els que es coneixen com a caixa negra, és a dir, funcionen, però no sabem què es cou a la xarxa neuronal que els gestiona. Els motius pels quals no sabem com funciona una IA com ChatGPT segurament siguin que:

• les neurones estan lligades a més d'un concepte, no de manera individual, cosa que ens pot confondre a l'hora d'entendre el funcionament.
• D'altra banda, els models lingüístics poden fer representacions de conceptes que no siguin coneguts per als humans, i no es poden descriure.
• O bé, hi pot haver abstraccions que desconeixem totalment.

Claude és la IA d'Amazon, creada per Anthropic i que pretén ser el competidor directe, però es basa en els mateixos processos d'aprenentatge i xarxes neuronals que es parametritzen amb l'aprenentatge previ.

La capacitat d'aquest sistema per analitzar grans textos, van carregar tota la novel·la del Gran Gatsby. A continuació, van modificar una de les frases de la novel·la i van demanar a la IA que trobés on era la diferència entre textos. El model va trobar la frase falsa en només 22 segons. Aquesta tasca duria hores, fins i tot dies, a una persona que intentés trobar l'errada.

Aquest test indica realment que els models de llenguatge funcionen i seran de gran utilitat per ajudar en explicacions, generar models de text, etc, però igual que les altres IAs, no és capaç de dir-te l'hora actual. Recordem que són sistemes predictius.

I el millor de tot és que no sabem com ho fa. Pots pensar que el millor seria preguntar-ho, però la IA tampoc no sap com ho fa. De fet, no els ho hem pogut ensenyar perquè no ho sabem.

LLaMa és el model de Meta. Com la resta de models, pateix els mateixos problemes. Aquest és un exemple que es pot trobar a MaindMatters, escrit per Eric Holloway:

La conversa no té cap sentit, llevat que sigui en una novel·la de Lewis Carrol, i podem apreciar que, en realitat, el model no entén res del que passa a la conversa. El que sí que aconsegueix és establir una coherència a muntar el discurs: demanar una pizza, ingredient, demanar-la, però no és capaç d'entendre que estem barrejant ingredients que no són possibles.

Tots aquests models, que són capaços, com a ordinadors que són, de fer feines específiques amb molta efectivitat, en realitat executen una mímica que és la que els hem ensenyat en el procés d'aprenentatge. I no és programació directa. Es tracta d'imitar allò que fan els humans, allò que els ensenyem a l'entrenament, a partir de l'estadística dels exemples.

El reflex d'aquest comportament cap a nosaltres és allò que als humans ens sembla intel·ligència. Però no ho és.