Ens destruirà la IA?

El coronel Tucker 'Cinco' Hamilton, cap de Proves i Operacions amb Intel·ligència Artificial de la USAF (la Força Aèria dels EUA), durant la Cimera de Capacitats Aèries i Espacials per al Combat del Futur celebrada fa uns dies a Londres , va dir que la Força Aèria dels EUA va realitzar un exercici simulat amb un dron militar controlat per IA al qual se li va encarregar destruir les defenses antiaèries (SAM) d'un suposat enemic.

La Reial Societat Aeronàutica britànica ha penjat a la seva web un resum de les conferències i, entre elles, hi ha la coronel Tucker on va relatar la simulació. El sistema havia d'identificar objectius i destruir-los a petició de l'operador, és a dir, l'operador tenia la darrera paraula. Aparentment, la IA es va adonar que no aconseguia el seu objectiu si l'operador li indicava que cancel·lés l'atac, per la qual cosa la solució era destruir l'operador.

Després van entrenar el sistema per indicar-li que no era bo matar l'operador i que perdria punts. El dron decideix llavors destruir la torre de comunicacions que l'operador utilitza per comunicar amb el dron.

Tucker va explicar que "no es pot tenir una conversa sobre intel·ligència artificial i aprenentatge automàtic i autonomia, si no es parlarà d'ètica".

Hem de tenir present que els humans tendim a l'antropomorfisme quan veiem o sentim alguna cosa que té aparença, trets o comportament humà. En el cas de les IA és una cosa que hem assumit des de les primeres pel·lícules de ciència-ficció i no veiem la tecnologia digital avançada com el que és, tecnologia.

Les IAs no es programen, tal com coneixem la programació algorísmica, sinó que els processos daprenentatge permeten anar configurant la gran equació que representa la xarxa neuronal. Aquest punt no l'acabem d'entendre perquè no podem determinar tots els resultats que ens pot donar aquesta fórmula per a un input determinat. En obtenir un resultat que, sorprenentment, sembla real, no tenim la seguretat de saber com s'ha aconseguit. Però hi estem.

Una forma d'aprenentatge de les xarxes neuronals és el que s'anomena aprenentatge per reforç (reinforcement learning) que permet planejar estratègies sobre la base de l'experimentació amb les dades, és a dir, si la IA prova una seqüència d'accions i donen un resultat positiu, guanya una recompensa objectiu i semmagatzema laprenentatge, en cas contrari es descarta.

Aquest model és propi de l'aprenentatge en humans i altres espècies, cosa que ens pot fer pensar que les IA, en aprendre amb el mateix model, poden arribar a ser conscients. I, per tant, prendre decisions com que la humanitat pot ser destruïda.

La realitat, de moment, és una altra. Aquest aprenentatge per reforç ens sembla amenaçador perquè la IA no és capaç de distingir-ne cap dels objectius. Actualment les IA militars no distingeixen un civil d'un militar, ni el valor de la vida, ni res. Són programes que actuen per aconseguir un objectiu.

El problema, en realitat, el tenim els humans. Els desenvolupaments amb les no estan prou madurs perquè tinguin un control d'accions tan delicades com l'ús en armament. Primer els hem de donar el 'data set' d'aprenentatge correcte, cosa que no és una tasca fàcil, veure l'exemple de LinkedIn. Després hem de definir els límits en què poden ser autònomes, tenint una política ètica correcta.

I finalment, han de col·laborar tots els països i organitzacions implicades a definir i controlar els desenvolupaments de les IAs, no perquè no destrueixin la humanitat, sinó perquè no els deixem destruir-nos. Perquè hem de tenir present que la maldat humana és innata a la nostra espècie i les IA se'ns poden anar de les mans, sense que elles siguin conscients.