L'explosió de la intel·ligència

En un extens document publicat per un dels gurus de la IA, Leopold Aschenbrenner, que va treballar a l'equip de superalineació d'OpenAI, exposa, entre altres coses, l'explosió de la IA que ens portarà a tenir AGI en aquesta dècada. El document es titula Consciència de Situació i és un assaig de diversos capítols.

La consciència de situació és la percepció dels elements existents a l'entorn en un volum de temps i espai, la comprensió del seu significat i la projecció del seu estatus en el futur proper. Per tant, el document és una visió de futur.

Personalment crec que es precipiten. No perquè l'AGI no sigui possible, però no crec que se superin les limitacions tècniques tan fàcilment, ni les barreres energètiques, ni es mantingui un finançament abismal o que ens quedem sense dades.

Leopold va treballar a l'equip de superalineació d'OpenAI. Què és la superalineació? A la web de l'equip de superalineació d'OpenAI diu que necessitem avenços científics i tècnics per dirigir i controlar sistemes d'intel·ligència artificial molt més intel·ligents que nosaltres.

Doncs això, controlar els sistemes que són més intel·ligents que els mateixos humans. Cal notar que diu necessitem avenços científics i tècnics, perquè a hores d'ara no sabem com fer-ho.

Segons el document, per a finals del 2027 tindrem una AGI amb capacitats de recerca per sobre dels millors humans. Els anomena automated AI researchers, aAIr per abreujar aquí. Podrem executar milions de còpies durant el dia i la nit que facin en un dia el treball de recerca humana d'un any.

I tindran aquests avantatges:

• podran llegir tots els papers que es publiquin, ja que ara és impossible llegir tot allò que es publica en un camp de recerca
• podran escriure milions de línies de codi complex i debugar-lo
• podran fer rèpliques d'aAIr ja entrenats
• podran compartir context, col·laborant millor del que ho fan els humans
• produiran millors models per tenir millors aAIr

També s'enumeren els possibles colls d'ampolla, com ara els límits computacionals actuals.

Finalitza el segon article amb aquest paràgraf: Un cop més, hem d'afrontar la possibilitat d'una reacció en cadena. Potser et sona especulatiu. Però entre els científics d'alt nivell dels laboratoris de IA, molts veuen una ràpida explosió d'intel·ligència com a sorprenentment plausible. Poden veure'l. La superintel·ligència és possible.

Al meu entendre, les IAs que arribin a ser més intel·ligents que els humans significa que no estan restringides a les limitacions que ens imposem els humans, de manera subconscient, de manera que poden arribar a solucions de problemes en què mai no hem pensat. Però a les que arribarem amb el temps. Jo a això no en diria ser més intel·ligents, sinó tenir més llibertat de buscar solucions de forma algorítmica, encara que si apliquem la propietat humana d'antropomorfitzar, aleshores temem les AGIs. Torna Skynet.

Al post Racing to the Trillion-Dollar Cluster es donen números que fan por. Un dels que sembla estar fora de lloc és el cost de còmput, tant econòmic com energètic.

L'any 2028, amb un cost de centenars de milers de milions de dòlars, s'espera un consum de 10 GW. Una central nuclear mitjana té una potència de més d'1 GW. És a dir, construeixes un clúster de supercomputació i inclogues 10 centrals nuclears.

Però és que el 2023 estima un cost d'1 bilió de dòlars i un consum de 100 GW. Al que afegeix: This mai seem hard to believe—but it appears to be happening. I és veritat, es pot llegir en aquesta web: AWS adquireix el campus del centre de dades nuclears de Talen a Pennsilvània.

L'article continua dient que és factible l'obtenció d'aquesta energia, almenys als Estats Units, ja que disposen d'abundant gas natural. O sigui, cremar quantitats ingents de gas per obtenir AGI que ens solucionin el problema de l'energia. És això? Si no morim a l'intent.

Imagino que la idea també ve de la genialitat de Sam Altman, que ho veu més fàcil: simplement faran servir la fissió d'heli per alimentar els seus centres de dades. I ho tindran el 2028. Només que no es coneix gaire bé aquest tipus de fusió i els físics no tenen ni idea de com aconseguir un guany net d'energia, perquè s'inverteix més del que s'obté. Més amb la doctora Sabine Hossenfelder.

Una altra dada: el projecte internacional d'energia de fusió més gran té agendat provar el primer plasma el 2025 i la fusió completa el 2035. Després, construir-ne un per a producció.

Els grans models actuals s'han alimentat amb tota la informació disponible en línia. A més, s'han creat IAs que generen dades i imatges per continuar entrenant els nous models amb situacions de la vida quotidiana, com les simulacions de Tesla d'embussos de trànsit o accidents amb persones.

Ja hem vist que Meta recorrerà a totes les dades dels seus usuaris, però això s'acaba. Aschenbrenner ho té clar, els robots buscaran dades i els problemes actuals en disseny de robots els solucionaran les primeres AGI i construirem més robots per obtenir més recursos.

I consumirem els pocs recursos per construir-los perquè les AGI ens ajudaran a resoldre els problemes de manca de recursos que tinguem degut a la construcció de robots i al consum energètic per crear les AGI. Fàcil, no?

Els millors algorismes creats per generar AGIs no funcionaran si no tenen dades de les que aprendre. Però el coneixement humà actual és limitat i les IAs han après allò que sabem nosaltres. Com en podran aprendre més? Fent nous descobriments a esquena dels humans?

Al següent article, Lock Down the Labs, es plantegen els riscos de la carrera per aconseguir una AGI. Fins ara el que hem vist és que està a les mans de grans companyies o d'administracions de països d'alt nivell econòmic. És interessant observar com ara l'oponent, el dolent de la pel·li, és la Xina. Sembla que es considera que la manca d'escrúpols de països no accidentals és un gran perill, en allò que anomena la preservació del món lliure davant dels estats autoritaris.

La resta del planeta, no hi participa.

Tot això no crec que passi el 2028, potser el 2050 hagi canviat prou l'economia mundial. Ningú diu que no arribi a passar aquest desplegament d'IA i tecnologia ja que hi ha enormes quantitats de documents científics publicats que no s'han estudiat perquè no hi ha temps material per fer-ho i les IA ens ajudaran. A més evitarem cometre tants errors, a tots els camps.

I no tenim en compte el “mal ús” que en aquest camí es pot fer de la IA o les AGI, des d'activitat delictiva fins a influència global maquinada per grups o països. Actualment sense regulació efectiva.

Però, com a humanitat, hem de solucionar alguns problemes i no esperar que les AGI els vinguin a solucionar a aquest cost.