Geoffrey Hinton

Algunes de les coses que diu el Geoffrey Hinton

Una cosa són els mals actors, que utilitzaran la IA per a fins maliciosos, això és una cosa que està passant amb totes les tecnologies, però això no vol dir que les IA siguin conscients i pretenguin dominar el món.

Compte a aquesta dada. Tot i que actualment la intel·ligència artificial ja pot ser eina de desinformació per mitjà de creació de contingut difícil de validar, experts de la indústria han advertit que la tecnologia fins i tot podria superar els humans i donar lloc a escenaris caòtics entre grans poders com els mitjans de comunicació , la política o l'educació.

El tema és que, usant IA, és possible fer un control de les masses que sigui tan subtil que no sapiguem que som presa d'un engany, per exemple. Recordem el cas dels posts en xarxes socials de cara a les eleccions presidencials dels EUA Això és una cosa que hem de gestionar com a societat. O bé, regular a través de normatives, com pretén fer Europa.

Ajuda molt que els humans siguem tan fàcilment suggestionables.

Sembla que una de les pors de Geoffrey Hinton és la capacitat d'aprenentatge, comunicació i atresorament d'informació de les IAs. Encara que no siguin conscients del que fan, poden donar respostes i compartir informació de manera gairebé instantània. A més, es poden fer diverses còpies de IA i totes poden aprendre en paral·lel i compartir coneixements.

Això és una cosa que pot ser genial, però ho hauríem d'encapsular, no en robots intel·ligents, sinó en biblioteques de coneixement.

Decisions de les IAs Les IAs poden prendre decisions com si volguessin controlar el món? Aquesta és la pregunta que té una resposta que no és la que volem escoltar. Les IAs poden prendre decisions per aconseguir objectius marcats per endavant. I no es paren a considerar les conseqüències d'aquestes decisions. Això és un problema. Però, ha de ser així? No. El que hem d'aconseguir és que les xarxes neuronals que processen aquests tipus d'algoritmes estiguin sotmeses a supervisió per altres IA que tinguin aquesta finalitat.

És com deixar que un cotxe de conducció autònoma s'entreni per arribar el més ràpid possible d'un punt a un altre, sense importar qui atropelli. És clar que no permetríem això i que posaríem sistemes de control per evitar danys en persones o en infraestructures. El mateix ha de passar amb les IA.

Podem donar el control dels nostres sistemes a una IA? Jo entenc que no. Que per més que sembli que són intel·ligents, recordem, són programes basats en les dades que hem generat els humans. Aquesta és la raó que semblin humanes perquè han après dels humans. I semblen humanes perquè som nosaltres els qui els antropomorfitzem (donar qualitats humanes a una cosa).

Tots això passa no només al camp dels chatbots, sinó a tots els camps de la IA. Si entrem en la generació d'imatges, els resultats poden ser esgarrifoses, però des del punt de vista d'una IA no deixa de ser una combinació "aleatòria" de punts que només els humans interpretem com una imatge del món.

Hinton no és el primer enginyer de Google que aixeca la mà i surt de la companyia.

Crec que, si hem de témer la IA, en realitat ens hem de témer nosaltres mateixos. Les IAs són un reflex de la humanitat i sabem com som de perillosos per a nosaltres mateixos.

En resum, no hem de témer el desenvolupament de la IA com a tal, hem de témer allò que una ment insana podria fer amb ella. No estem parlant de crear una Skynet, estem parlant d'una eina per a qualsevol que no tingui bones intencions.

Això sí que és esgarrifós.