La intel·ligència artificial (IA) transforma la indústria mitjançant solucions innovadores i més eficiència en una quantitat ingent de processos. Però de la mà d’aquests avanços afloren nous riscos en ciberseguretat que han d’abordar-se a fi i efecte de preservar la integritat dels sistemes d’IA i les dades en què es basen.

Un dels reptes més notoris radica en la naturalesa de “caixa negra” de molts sistemes d’IA. Aquests algoritmes complexos prenen decisions en base a models de caire probabilístic que, en moltes ocasions, estan mancats de transparència. Tal opacitat pot generar errors o resultats inesperats difícils de corregir, sobretot quan aquests sistemes enfronten escenaris que se situen al marge de les seves dades d’entrenament. Per citar només un exemple: una petita alteració en una imatge mèdica pot motivar que una eina de diagnòstic basada en IA classifiqui de forma errònia una condició, possibilitat aquesta que potencialment podria resultar en decisions de tractament incorrectes. La manca d’explicabilitat representa una gran vulnerabilitat, atès que els interessats no poden comprendre completament ni predir el comportament de la IA, fet que dificulta la identificació i mitigació de riscos potencials.

Un altre aspecte crític té a veure amb la integritat de les dades. Els sistemes d’IA són tan confiables com les dades amb què són entrenats. Quan aquests conjunts de dades són esbiaixats, incomplets o han estat manipulats de forma deliberada, els models resultants hereten aquests defectes. Els atacs adversaris –actors malintencionats que alteren de forma subtil les dades d’entrada per a enganyar els sistemes d’IA– subratllen encara més la fragilitat dels models d’intel·ligència artificial davant aquesta dependència de dades. Aquests atacs poden tenir conseqüències greus, en particular en àrees com la conducció autònoma o el reconeixement facial, on els riscos són molt alts.

Les tecnologies d’intel·ligència artificial generativa (ChatGPT) aporten una altra capa de desafiaments en matèria de ciberseguretat. Es tracta de sistemes que són susceptibles a injeccions de comandaments, on els atacants manipulen els “prompts” o instruccions d’entrada per provocar respostes inapropiades o nocives. Així mateix, l’ús indegut d’identitats corporatives en el context d’interaccions amb sistemes d’IA generativa pot portar a l’exposició no intencionada de dades sensibles, una possibilitat que podria posar en risc la seguretat i la reputació de la marca.

Abordar aquests desafiaments demana una estratègia integral de ciberseguretat que abasti tot el cicle de vida de la IA (recopilació de dades, entrenament, desplegament i monitorització). Els elements clau inclouen una governança de dades estricta, mecanismes sòlids d’encriptació, proves de penetració i un monitoratge continu d’anomalies. A més, implementar supervisió humana en punts crítics de decisió pot ajudar a mitigar els riscos associats amb les capacitats de presa de decisions autònomes de la IA.

En l’entorn descrit, és evident que les organitzacions estan cridades a alinear les seves pràctiques de ciberseguretat amb els objectius empresarials, assegurant que les estratègies de gestió de riscos estiguin informades per les formes específiques en què es desplega la IA. Desenvolupar una comprensió clara de com les tecnologies d’intel·ligència artificial s’integren en els processos empresarials pot ajudar a prioritzar els esforços de seguretat i abordar les vulnerabilitats potencials de manera més efectiva. Per això, és crucial fomentar la col·laboració entre organismes reguladors, desenvolupadors d’IA i usuaris finals. Establir estàndards compartits per a la ciberseguretat en IA, juntament amb un marc legal en evolució (com és el cas del Reglament d’IA de la UE o AI Act), ajudarà a mitigar riscos i a construir resiliència enfront d’amenaces emergents. La recentment publicada AI Act representa un pas prometedor en aquesta direcció, tota vegada que vol garantir el compliment –i un desplegament segur– d’aquesta tecnologia en tots els sectors.

Sigui com sigui, l’adopció segura de la IA passa per equilibrar el seu potencial amb rigoroses mesures de ciberseguretat. En identificar de forma proactiva les vulnerabilitats i implementar una governança sòlida, les empreses poden aprofitar el poder de la intel·ligència artificial minimitzant els riscos, garantint que aquesta tecnologia transformadora serveixi al conjunt de la societat i ho faci de forma ètica i segura.