Un correu misteriós, una transferència milionària i una videotrucada amb el seu cap es van convertir en el pitjor malson d’un empleat d’una multinacional a Hong Kong. La víctima va caure en una ciberestafa que va costar a la seva empresa 25 milions d’euros, destapant així els temors més profunds sobre la intel·ligència artificial (IA). Tot va començar amb un correu electrònic suposadament enviat pel director financer de l’empresa, sol·licitant una sèrie de transferències. Després de demanar més detalls, l’empleat va participar en diverses videotrucades amb directius que semblaven reals però que en realitat eren deepfakes, manipulacions digitals tan convincents que no van aixecar cap sospita. Els ciberdelinqüents van utilitzar IA per replicar veus i aparences, i van aconseguir que l’empleat transferís una suma colossal. L’engany es va descobrir quan el veritable director financer va convocar una reunió urgent, però ja era massa tard. Aquesta estafa destaca el creixent perill dels deepfakes, una amenaça que posa en escac la seguretat d’individus i empreses arreu del món.

La IA ha evolucionat ràpidament portant nombrosos beneficis però també greus amenaces. Un dels fenòmens més preocupants són els deepfakes, continguts falsificats amb IA que poden manipular la veu, el rostre i fins i tot el comportament d’una persona en vídeos i àudios. Inicialment, les víctimes principals d’aquesta tecnologia eren les celebritats, però ara s’ha democratitzat fins al punt que qualsevol persona pot ser objecte de suplantacions i estafes. Aquest problema s’ha convertit en una pandèmia global, amb parlaments, governs, policies i empreses tecnològiques de tot el món intentant combatre-ho sense gaire èxit.

Agafar una imatge, vídeo o àudio d’algú i transformar-ho en un contingut multimèdia de qualitat per fer-li fer o fer-li dir el que es vulgui i en l’idioma que es vulgui és senzill amb aplicacions d’IA a l’abast de tothom. Els deepfakes ja són una preocupació per a tothom. Les policies han detectat estafes on la veu de familiars o coneguts és suplantada amb IA per enganyar ciutadans corrents. Els delinqüents fan deepfakes per les estafes, com el “frau del CEO”, on se suplanta la veu d’executius per aconseguir transferències bancàries milionàries.

Un executiu de Ferrari va rebre missatges suposadament del seu CEO, Benedetto Vigna, a través de WhatsApp, demanant la seva ajuda per a una adquisició important. Els detalls van aixecar sospites, i quan va rebre una trucada amb la veu del CEO perfectament simulada amb IA, va decidir verificar la identitat. Una pregunta clau sobre un llibre recomanat va desemmascarar l’intent de frau, fent penjar la trucada de l’estafador de cop. Davant d’aquests riscos, pactar preguntes o contrasenyes secretes entre empleats, directius i, fins i tot, familiars esdevindrà una pràctica habitual per evitar aquests enganys.

El cap de l’àrea central de delictes econòmics dels Mossos d’Esquadra, José Ángel Merino, adverteix sobre l’augment d’aquests fraus. “Estem veient com els deepfakes de veu s’utilitzen en trucades telefòniques per obtenir dades personals o diners,” explica Merino.

Un deepfake del president ucraïnès Zelenski va ser utilitzat per desinformar durant la guerra a Ucraïna, i a Birmània es van imposar càrrecs de corrupció basats en un vídeo deepfake. En la política nord-americana, durant la campanya electoral, s’estan utilitzant deepfakes per manipular l’opinió pública, com un d’Elon Musk promocionant una criptomoneda falsa.

Tant els parlaments i governs com les grans empreses tecnològiques estan prenent mesures per combatre aquesta amenaça global. La Unió Europea treballa en regulacions per criminalitzar la creació i distribució d’imatges generades per IA amb finalitats de desinformació o abús sexual infantil.

Entre les empreses tecnològiques, Meta (Facebook) ha començat a etiquetar continguts generats amb IA per proporcionar més transparència als usuaris. Google i Intel estan desenvolupant tecnologies per detectar contingut falsificat. Malgrat això, la velocitat amb què avança la tecnologia de deepfakes fa que sigui difícil mantenir-se al dia en la seva detecció.

No obstant, hi ha hagut alguns èxits notables en la lluita contra els deepfakes. Algunes plataformes, com Deepware Scanner i DeepfakeProof, ofereixen eines gratuïtes per detectar vídeos manipulats. Aquestes eines ajuden tant individus com empreses a protegir-se millor contra els fraus.

Un exemple és la campanya d’alerta de l’Instituto Nacional de Ciberseguridad (Incibe) a l’Estat espanyol, que ha ajudat nombroses persones a identificar trucades fraudulentes. Això demostra la importància de la sensibilització i l’educació en la protecció contra els deepfakes.

Detectar un deepfake no és senzill, però hi ha algunes pistes que poden ajudar. Els experts recomanen frenar la sensació d’urgència, ja que els ciberestafadors sovint creen una situació d’alarma per evitar que la víctima pensi críticament. És important verificar sempre l’origen de la informació i buscar cobertura alternativa per assegurar-se de la seva veracitat. Les anomalies visuals o auditives, com errors en la llum, les ombres, els reflexos o la sincronització dels llavis en vídeos, poden ser indicadors de contingut falsificat. A més, utilitzar eines tecnològiques com Deepware Scanner pot ajudar a identificar-los. La AI Act de la Unió Europea també té un paper crucial en aquest àmbit, establint un marc legal per regular l’ús de la IA i prevenir la creació i distribució de contingut manipulat.

La batalla contra les falsificacions profundes és lluny d’acabar. Els experts coincideixen que la combinació d’eines tecnològiques avançades i l’alfabetització mediàtica són clau per combatre el problema. La col·laboració internacional i la creació de marcs legals robustos seran essencials per abordar-lo. Serà vital que els governs, les tecnològiques i la societat civil treballin junts per desenvolupar estratègies efectives que protegeixin la integritat de la informació i la seguretat de les persones en aquest món digital cada cop més complex.