La justícia com a pilar de la nostra societat no pot romandre aliena a l’arribada de la intel·ligència artificial. La seva utilitat és indiscutible, i això obre el debat quant a la seva aplicació i la intervenció del factor humà. Voldria compartir una sèrie de reflexions sobre la humanització de la intel·ligència artificial en la justícia, on s’estableix un decàleg dels principis que en tot cas s’haurien de respectar en l’aplicació de la IA en la justícia:

(1) Respecte a la dignitat humana: el sistema ha de permetre la participació, la supervisió i el control humans en tot moment.

(2) Control per part de l’usuari del sistema de justícia: el jutge ha de poder revisar en tot moment la decisió judicial, i fins i tot ha de poder apartar-se del resultat del sistema d’IA en funció del cas concret.

(3) Respecte als drets fonamentals: no podem avançar tecnològicament a còpia de retrocedir en drets, principalment en privacitat i protecció de dades.

(4) Respecte de les garanties del procés: dret a ser escoltat, principi d’igualtat d’armes, dret a un jutge competent, independent i imparcial.

(5) Garantia d’accés a la justícia: a persones vulnerables, i, sobretot, s’ha de superar l’anomenada “bretxa digital”.

(6) Respecte de la garantia jurisdiccional: en tot cas el jutge ha de garantir el compliment de la llei, però és fonamental que ho faci des de la perspectiva del jutge “humà”, del jutge “persona”. El jutge ha de poder apartar-se del criteri o decisió de la IA en funció de les circumstàncies concretes del cas.

(7) No discriminació i prohibició de biaixos; és a dir, de desviacions inadequades en el procés d’inferència, el que també s’ha anomenat “principi de no discriminació algorítmica” en el disseny i/o implementació dels algoritmes intel·ligents.

(8) Transparència: el disseny i aplicació de solucions d’IA ha de permetre la seva explicabilitat, traçabilitat, identificabilitat i accés a l’algoritme.

(9) Confiança: els algoritmes han de ser suficientment segurs, fiables i sòlids, i les dades sobre les quals treballi la IA han de ser suficients i tenir un nivell òptim de qualitat.

(10) Responsabilitat i rendició de comptes: és fonamental que el sistema es pugui auditar, i si es dona aquest impacte negatiu (un error), ha d’haver-hi un mecanisme de responsabilitat.

Som encara als inicis del debat. No podem prescindir dels avantatges que en qualitat i eficàcia poden aportar els sistemes d’IA, però tampoc podem assumir-los de manera indiscriminada i acrítica, ja que correm el risc de deshumanitzar la justícia.