Pas endavant de l’Eurocambra per regular la intel·ligència artificial

El Par­la­ment Euro­peu (PE) ha donat aquest dijous un pas impor­tant perquè la Unió Euro­pea (UE) sigui el pri­mer ter­ri­tori del món que reguli les eines que uti­lit­zen la intel·ligència arti­fi­cial (IA).

Els euro­di­pu­tats han apro­vat per àmplia majo­ria a les comis­si­ons de Mer­cat Inte­rior i de Lli­ber­tats Civils de l’Euro­cam­bra la noves nor­mes per limi­tar els even­tu­als ris­cos dels nous sis­te­mes de gene­ració de con­tin­guts com el ChatGPT en la difusió de notícies fal­ses o la vio­lació de drets d’autor.

El text, que ha tirat enda­vant per 84 vots a favor, set en con­tra i dotze abs­ten­ci­ons, s’ha incor­po­rat a la llei d’intel·ligència arti­fi­cial que es pre­para a Brus­sel·les i que es votarà al ple­nari del juny. A par­tir d’ales­ho­res, amb la posició nego­ci­a­dora con­fir­mada pel ple, arren­ca­ran les con­ver­ses amb la Comissió euro­pea i el Con­sell de la UE –els Estats mem­bres– per acor­dar el text defi­ni­tiu de la llei.

Les dis­po­si­ci­ons apro­va­des avui supo­sa­ran, en cas que s’incor­po­rin ínte­gres al text final, que les empre­ses tec­nològiques que vul­guin intro­duir aquests sis­te­mes al mer­cat euro­peu hau­ran de demos­trar que han reduït els perills que puguin impli­car per a la salut, els drets fona­men­tals i el sis­tema democràtic. A més, hau­ran de sot­me­tre’s a l’anàlisi d’experts inde­pen­dents.

Els desen­vo­lu­pa­dors hau­ran de publi­car un “resum prou deta­llat” sobre les dades pro­te­gi­des amb drets d’autor que uti­lit­zen per ensi­nis­trar els sis­te­mes d’intel·ligència arti­fi­cial.

El text apro­vat avui en comis­si­ons també pre­veu que els usu­a­ris dels sis­te­mes d’IA que gene­rin o mani­pu­lin vídeos, imat­ges o sons de tal manera que puguin induir altres per­so­nes a pen­sar que són reals hau­ran d’infor­mar que el con­tin­gut és fals.

Les eines d’IA hau­ran de ser dis­se­nya­des de manera que al llarg de la seva vida útil tin­guin “nivells apro­pi­ats” de ren­di­ment, pre­vi­si­bi­li­tat, inter­pre­ta­bi­li­tat, cor­re­gi­bi­li­tat, segu­re­tat i ciber­se­gu­re­tat.

A banda d’aques­tes nor­mes específiques per als sis­te­mes de gene­ració de con­tin­guts amb IA, la llei pre­veu pro­hi­bir els sis­te­mes de vigilància mas­siva en temps real als espais públics –amb l’excepció de la pre­venció de delic­tes i la loca­lit­zació de vícti­mes– i veta específica­ment els models que uti­lit­zin tècni­ques subli­mi­nars per alte­rar de manera “subs­tan­cial” el com­por­ta­ment d’una per­sona sense que aquesta en sigui cons­ci­ent.

La regu­lació euro­pea qua­li­fica d’alt risc una sèrie de sis­te­mes d’intel·ligència arti­fi­cial amb usos molt específics que només es podran intro­duir al mer­cat si res­pecte els drets fona­men­tals i valors de la Unió Euro­pea. És el cas d’eines que es puguin uti­lit­zar per influir en el resul­tat d’unes elec­ci­ons, les que uti­lit­zin les enti­tats finan­ce­res per ava­luar la solvència d’una per­sona o els que s’uti­lit­zin en el con­trola de fron­te­res per vigi­lar o pro­ces­sar dades per pre­dir movi­ments migra­to­ris.

El text apro­vat per l’Euro­cam­bra en comissió pro­posa san­ci­ons de fins al 7 % de la fac­tu­ració anual mun­dial per a les empre­ses que incom­plei­xin la nor­ma­tiva.