Però com funciona la IA?

Sobre l'aprenentatge de les IAs, Kate Saenko, professora d'informàtica de la Universitat de Boston, diu que "no dissenyem xarxes neuronals en el sentit tradicional, només dissenyem els algorismes d'aprenentatge i els subministrem dades. La resta ho aprenen sols".

Eixes és la clau dels problemes amb les IAs, no els estem indicant què és el que han d'aprendre de les dades i com ho han d'organitzar. Aquest problema afecta el cor mateix de l'aprenentatge automàtic: quan l'algoritme aprèn, pren dades, com fotografies d'humans fent tasques al costat de fragments de text, extreu la informació important i després classifica aquests fragments en constel·lacions de dades que només ell pot entendre a la seva totalitat.

Tot i que tenim algoritmes que s'utilitzen per etiquetar imatges i el funcionament de les quals és bo, no tenim clar com funcionen. I això impedeix que puguem corregir-los quan s'equivoquen com en el cas de Google en què marcava gent de color com goril·les< /a>. Aquest també és un gran debat sobre el biaix a l'entrenament de les IAs, però si una IA es pot explicar, llavors podem dir-li com corregir-se.

Una nova investigació de la Universitat de Califòrnia i l'Institut Max Planck d'Informàtica ens podria portar a una solució: una IA que analitzi les dades de dues maneres: una per respondre la pregunta original i una altra que identifiqui les dades utilitzades per respondre la pregunta , de manera que ho pugui traduir a llenguatge humà. És a dir, l'algorisme està entrenat en dos conjunts d'informació, un per determinar què passa en una imatge i l'altre orientat a respondre “per què” s'interpreta la imatge d'aquesta manera.

Quan se li demana a la xarxa neuronal que expliqui per què diu que una imatge mostra un partit de beisbol, analitza les dades utilitzades per prendre aquesta decisió, identifica un bat i després una persona en una posició en què mou el bat i diu: “El jugador està colpejant amb un bat”.

Els investigadors en diuen un sistema de “pointing and justification”, ja que pot assenyalar les dades utilitzades per prendre una decisió i justificar per què es van utilitzar així. Tot i que, la veritat, és complicat de donar-li un sentit.

Si considerem que l'excés de paràmetres a les IA és un dels motius pels quals es fa tan opac desentranyar la lògica de l'emmagatzematge de la informació processada per la xarxa neuronal, aleshores necessitem un mecanisme per comprendre'l.

Posem d'exemple el dilema de l'atropellament. Suposem un cotxe intel·ligent que s'enfronta a la decisió de provocar un accident atropellant un vianant i salvar la vida del conductor o bé, esquivar el vianant estavellant-se i accidentar el passatger.

En el cas d'un conductor humà, decideixi què decideixi, sempre pot explicar la seva decisió. En canvi, una IA actuarà però no podem saber què decidirà perquè no sap explicar-se. Pitjor encara, no ho entendrem. No crec que, avui dia, els puguem donar el control.