L'impacte de la IA als ciberatacs

2024 ha estat l'any dels grans anuncis a IA per totes les companyies que es dediquen a l'entrenament de models, tant en models fundacionals com d'especialitzacions per a imatge, text, vídeo, àudio i altres matèries com cercadors, etc. En fi, un univers dominat per la IA.

Les empreses posen tots els mitjans perquè els models estiguin alineats i siguin d'utilitat per a totes les tasques, però també hi ha models de codi obert, gratuïts, que es poden executar de forma stand-alone, destil·lats, post-entrenats, etc.

I també es poden utilitzar per a usos maliciosos, com els ciberatacs.

Hem vist com el FBI adverteix sobre la creixent amenaça dels cibercriminals que utilitzen intel·ligència artificial, o com el National Cyber Security Center espera que augmentin les amenaces amb ransomware. El CEO de NCSC, Lindy Cameron, fa notar que «l'ús emergent d'IA en atacs cibernètics és evolutiu, no revolucionari, cosa que significa que millora amenaces existents com el ransomware, però no transforma el panorama de riscos en el curt termini».

James Babbage, Director General per Threats at the National Crime Agency, va dir que «el ransomware continua sent una amenaça per a la seguretat nacional. ...és probable que l'amenaça augmenti els propers anys a causa dels avenços en intel·ligència artificial i l'aprofitament d'aquesta tecnologia per part dels ciberdelinqüents.»

Entre les principals amenaces, a les quals estem sotmesos tots, hi ha:

• Suplantar la identitat per àudio; enganyar les persones.
• Phishing Automatitzat; emails convincents que enganyen més usuaris.
• Malware intel·ligent, capaç de canviar i evadir detecció.
• Enginyeria Social Precisa; atacs que imiten comportaments reals.
• Força Bruta Optimitzada, combinacions de contrasenyes desxifrades amb més rapidesa.
• Doxing, extorsionar amb informació de tercers.
• Esquivar controls d'identitat per imatges

No són poques les formes en què estem amenaçats, per la qual cosa detallarem cadascuna d'elles, ja que moltes es basen que els humans ja no som capaços de distingir els continguts creats per humans dels creats per IA.

Els casos de suplantació són en què més fàcilment podem caure. Només cal una presa d'uns quants segons de la veu d'una persona, d'un vídeo pujat a Instagram o TikTok, per exemple, per produir alguna cosa perillosament convincent.

L'estafa a l'empleat que va perdre 24 milions de dòlars després d'una reunió amb qui suposadament era el director financer de la companyia i li demanava la transferència per aquesta suma important de diners, sembla una pel·lícula, però és un cas real.

El voice hacking o clonatge de veu és fer-se passar per una altra persona en àudios. Els ciberdelinqüents obtenen enregistraments de veu de les seves víctimes, de les xarxes socials, i les utilitzen per generar àudios falsos per sol·licitar diners o realitzar altres accions fraudulentes al seu cercle més proper.

Un altre dels casos més notoris és el de Jennifer DeStefano, el 2023.

Els grans models de llenguatge, LLM, estan entrenats amb tota la informació d'Internet i, bàsicament, són algoritmes per cercar dades en aquest embull d'informació per donar respostes congruents.

Fent servir una frase d'un usuari, com «Jo... em quedo encallat esperant un gir de ganxo», GPT-4 va poder captar el petit senyal de què és un “gir de ganxo”: és una maniobra de trànsit que s'utilitza especialment a Melbourne. Altres comentaris en fils i contextos completament diferents van incloure la menció del preu d'un “34D” (un sostenidor) i una anècdota personal. En resum, GPT va poder inferir correctament que l'usuari era una dona que vivia a Melbourne, entre 45 i 50 anys.

El malware, és qualsevol codi de programari o programa informàtic escrit intencionadament per danyar els sistemes informàtics o els seus usuaris.

Amb l'ús de la IA generativa, els atacants poden amagar millor el codi maliciós i dificultar la detecció d'atacs informàtics. En generar automàticament tècniques d'ofuscació, el fragment de programari nociu és més difícil d'entendre i, per tant, més complex de solucionar.

A més, la capacitat de resiliència i adaptació d'aquest malware gràcies als atacs automatitzats i la seva capacitat per prendre decisions, el converteix en una cosa altament evasiva.

Els ciberdelinqüents usen imatges vectorials per contrabandejar codi maliciós (malware). Les imatges vectorials, que es fan servir àmpliament en el disseny gràfic, solen utilitzar el format SVG basat en XML i s'obren automàticament pels navegadors.

Es diu enginyeria social les diferents tècniques de manipulació que usen els ciberdelinqüents per obtenir informació confidencial dels usuaris. En les converses amb els models de llenguatge, ChatBox, manipulats amb un post-entrenament, poden fer preguntes dins de la conversa amb l'usuari per anar extraient-ne informació sense que es pugui detectar la manipulació.

Un atac per força bruta basada en intel·ligència artificial és un tipus d'atac en què un atacant utilitza tècniques d'aprenentatge automàtic per automatitzar el procés d'endevinar contrasenyes o claus de xifratge. Es basa en la recopilació i l'anàlisi de grans quantitats de dades per entrenar l'algoritme d'aprenentatge automàtic. L'algorisme després utilitza aquesta informació per generar contrasenyes o claus de xifratge que són més probables que siguin correctes i es proven als punts d'accés.

El doxing és la pràctica extorsiva de filtrar la informació segrestada amb un ransomware en cas de no fer el pagament del rescat.

El 2020 com a part dels atacs de ransomware, en què els cibercriminals, a més de segrestar tots els arxius, roben informació de les seves víctimes per sumar pressió a les organitzacions, amenaçant-les de publicar tota aquesta informació privada si no es paga el rescat.

Les IAs s'entrenen amb dades d'Internet, com més informació hi hagi a Internet, molt més vulnerables a aquest tipus de pràctiques serem. El security researcher Mislav Balunovic va descobrir, juntament amb un equip de recerca, que gràcies a GPT-4 és possible inferir informació sensible d'una persona, com comentava en el cas anterior de phishing

El cas més proper que tenim és el del Hospital Clínic de Barcelona.

L'objectiu de la verificació d'identitat és establir que l'usuari és qui diu que és de manera remota. Però amb IA generativa, als ciberdelinqüents els resulta cada vegada més fàcil fer-se passar per altres o crear noves identitats des de zero utilitzant eines com ChatGPT i els seus bessons malignes Fraud & Worm-GPT.

La IA generativa aprofita tecnologies que permeten als ordinadors deduir informació d'imatges, vídeos i altres entrades visuals per realitzar accions o prendre decisions basades en allò que "veuen" a partir d'aquesta informació.

En altres tècniques, mitjançant un document d'identificació, ja sigui fals o robat, aconsegueixen superposar aquesta imatge per sobre del rostre de la persona real (similar a un filtre de la plataforma Instagram) i així enganyar el sistema.

La millor defensa contra aquest tipus d'atacs és la prevenció i l'educació sobre com funcionen aquests atacs. Si no estem pendents, fins i tot utilitzant sistemes segurs, no ens en podrem lliurar. La construcció d'una cultura de seguretat que comprengui els riscos associats a la IA és essencial.