L’avenç de la intel·ligència artificial (IA) està transformant la manera com interactuem amb la tecnologia. Des de recomanacions en plataformes digitals fins a sistemes de reconeixement facial, la IA depèn de grans volums d’informació, cosa que ha generat certa preocupació sobre la privacitat i els riscos d’un ús inadequat de les dades. Per això, la Unió Europea ha aprovat el reglament (UE) 2024/1689, que estableix regles per garantir que la IA es desenvolupi de manera segura i respectuosa amb els drets fonamentals.

Un dels principals objectius és evitar l’ús abusiu de les dades personals. Algunes tecnologies poden recopilar informació sense que els usuaris en siguin plenament conscients, com sistemes que analitzen rostres o veus per identificar persones. Per evitar vulneracions de la privacitat, el reglament prohibeix la creació de bases de dades de reconeixement facial a partir d’imatges d’internet o càmeres de vigilància sense consentiment. Això impedeix que governs i empreses utilitzin aquesta tecnologia de manera indiscriminada, reforçant el control sobre la nostra informació.

Així mateix, la normativa classifica els sistemes d’IA segons el risc que poden representar. Els d’alt risc, com els utilitzats en hospitals, bancs o administracions, hauran de complir requisits estrictes de seguretat i transparència. Això inclou assegurar que les dades utilitzades siguin fiables i lliures de biaixos discriminatoris. També es requerirà la supervisió humana per evitar que decisions importants es prenguin exclusivament per una màquina.

Pel que fa als sistemes que interactuen directament amb persones, com assistents virtuals o xatbots, hauran de ser clarament identificables. Els usuaris han de saber en tot moment si estan parlant amb una IA i no amb un humà. A més, quan una IA generi imatges, vídeos o àudios que puguin semblar reals, haurà d’indicar-ho per evitar la difusió de continguts enganyosos o manipulats.

Un altre aspecte clau és la seguretat de les dades personals en mans de sistemes d’IA. A mesura que aquestes tecnologies evolucionen, també augmenta el risc de filtracions i ciberatacs. Per aquesta raó, el reglament obliga les empreses a implementar mesures de protecció avançades per evitar que la informació dels usuaris sigui robada o utilitzada fraudulentament. En cas d’una violació de seguretat, les empreses hauran d’actuar ràpidament per informar els afectats i minimitzar els danys.

Amb aquesta regulació, la Unió Europea vol garantir que la IA es desenvolupi sense posar en perill la privacitat dels ciutadans. Això no significa frenar la innovació, sinó establir normes clares perquè la tecnologia es faci servir de manera responsable. Per als usuaris, suposa més protecció i transparència sobre l’ús de les seves dades. Per a les empreses, implica adaptar-se a un marc normatiu que prioritza la seguretat i la confiança.