Inteligencia Artificial eXplicable
Temps de lectura: 3 minuts
La intel·ligència artificial explicable (XAI) és l?àrea de la intel·ligència artificial que s?encarrega de presentar l?aprenentatge de les màquines com un procés comprensible per al?ésser humà.
Caixa negra
La majoria dels sistemes d'IA són models de caixa negra, que són sistemes que es veuen només en termes de les entrades i sortides. Els científics no intenten desxifrar la “caixa negra” o els processos opacs que duu a terme el sistema, sempre que rebin els resultats que busquen.
Aquests tipus de sistemes d'IA tenen problemes perquè les dades amb què s'entrenen sovint estan inherentment esbiaixades, imitant els biaixos racials i de gènere que hi ha dins de la nostra societat. Això produeix resultats que no són imparcials o que poden arribar a ser falsos, sense que arribem a adonar-nos-en. Aquest és un problema greu
La IA explicable és un dels requisits clau per implementar la IA responsable, una metodologia per a la implementació a gran escala de mètodes de IA en organitzacions reals amb imparcialitat.
Entendre la IA
Que una IA sigui explicable significa que es comprèn com i per què l'algorisme pren les decisions o realitza les prediccions i que es té la capacitat de justificar els resultats que produeix.
Roman V. Yampolskiy, un professor d'Informàtica de la University of Louisville escriu al seu paper:
"A més, si ens acostumem a acceptar les respostes d´una IA sense una explicació, tractant-lo essencialment com un sistema oracle, no podríem saber si ens proporciona respostes incorrectes o manipuladores".
La IA explicable és un dels requisits clau per implementar la IA responsable, una metodologia per a la implementació a gran escala de mètodes d'IA en organitzacions reals amb imparcialitat, però si necessitem models més complexos i potents, tendim més al format de caixa negra.
Regulació europea
Els algorismes que prenen decisions usen cada vegada models més complexos. Tot i això, a Europa un usuari, segons la llei, pot exigir l'explicació d'una decisió que l'afecti presa per un algorisme.
La Unió Europea regula el desenvolupament de la IA perquè els usuaris tinguin garantits els seus drets i no siguin influïts o enganyats per les respostes dels sistemes intel·ligents. Es contemplen en els objectius següents:
- Garantir que els sistemes d'IA introduïts al mercat de la Unió i utilitzats siguin segurs i respectin la legislació vigent sobre els drets fonamentals i els valors de la Unió;
- Garantir la seguretat jurídica per facilitar la inversió i la innovació a IA;
- Millorar la governança i l'aplicació efectiva de la legislació existent sobre drets fonamentals i requisits de seguretat aplicables als sistemes d'IA;
- Facilitar el desenvolupament d'un mercat únic per a aplicacions de IA lícites, segures i fiables i evitar la fragmentació del mercat.
Això implica que necessitem crear models interpretables que ens mostrin el perquè de les seves decisions
Les explicacions
Hi ha dos tipus d'explicacions: les globals i les locals.
D'una banda, les explicacions globals serveixen per descriure el comportament de l'algorisme en general.
D'altra banda, les explicacions locals es fan servir per explicar el comportament de l'algorisme per a casos més concrets i personalitzats.
Per què explicacions?
Primer per normativa, com s'ha esmentat a la legislació europea. Segon, per identificar el biaix i aconseguir que les IAs generalitzin. Finalment, els enginyers necessiten depurar els models i per això el millor és entendre'ls.
El plantejament dels enginyers no és intentar entendre com funciona un algorisme complex, sinó que sigui el mateix algorisme qui en pugui explicar el funcionament. Aquest punt pot ser complicat ja que l'explicació pot ser que no sigui entesa pels humans, per més que s'hi esforcin.
Per tant, hem d'aprendre el funcionament intern dels algorismes mitjançant les explicacions de com han arribat a les conclusions de cada resposta. D'aquesta manera podrem començar a intuir el funcionament de les IA i, per tant, saber si ens enganyen o no.
