Espanya crearà una agència per vigilar els perills de la intel·ligència artificial

Espanya tindrà una agència dedicada a vigilar i minimitzar els «riscos significatius sobre la seguretat i la salut de les persones, així com els seus drets fonamentals» que pugui causar l’ús de sistemes d’intel·ligència artificial (IA). Així consta en la Llei de Pressupostos Generals de l’Estat (PGE) aprovada dimarts i publicada aquest dimecres al BOE.

En el pacte per als Pressupostos del 2022 s’estableix que l’Agència Espanyola de Supervisió de la Intel·ligència Artificial comptarà amb una dotació de 5 milions d’euros per investigar el perill que es pugui derivar dels algoritmes. I és que, siguin empreses privades o administracions públiques, cada cop són més els que se’n serveixen per automatitzar tota mena de processos, des dels que personalitzen el contingut a internet fins a la concessió de crèdits bancaris i ajudes estatals. Tot i que opera sota una falsa aparença de neutralitat matemàtica, aquesta tecnologia és imperfecta i pot amplificar potencials discriminacions racistes, de gènere i classistes contra una part de la societat.

Conscient d’això, l’agència espanyola serà l’encarregada d’auditar els sistemes algorítmics fets servir al territori «de forma transparent, objectiva i imparcial» i proveirà assessorament als sindicats perquè les plataformes compleixin la regulació dels algoritmes que estableix la ‘Llei Rider’. Així mateix, tindrà capacitat d’aplicar sancions, tot i que la llei no en dona més detalls.

Pressió per regular la IA

La creació d’aquest ens de supervisió de la IA arriba després d’una proposta llançada al novembre per Més País-Equo i acordada amb els dos socis de Govern, el PSOE i Podem. La seva aprovació en els Pressupostos per al 2022 arriba mentre la Unió Europea (UE) prepara un reglament comunitari per limitar l’impacte d’aquests sistemes algorítmics que inclourà una prohibició dels sistemes de vigilància massiva.

Notícies relacionades

Reduir un 25% el trànsit a Barcelona permetria evitar més de 200 morts per contaminació a l’any

Això significa no recordar paraules o confondre el nom de les persones

El gest del Govern també respon a la creixent pressió internacional per regular l’ús de la IA i els seus potencials perills socials. Les Nacions Unides, per exemple, han alertat d’aquests riscos i han demanat tant als estats com a les empreses «augmentar dràsticament la transparència» sobre els sistemes algorítmics que s’utilitzen en el dia a dia. El 9 de desembre, un grup internacional d’experts demanava a la revista ‘Science’ que, davant la creixent desconfiança respecte aquesta tecnologia, es posés en marxa una xarxa global de ‘hackers ètics’ per destapar les seves vulnerabilitats i arreglar-les abans que esclatin contra la societat.

No obstant, tot això és encara sobre el paper. Perquè l’agència comenci a funcionar primer s’haurà de pactar una llei que estableixi amb detall la seva creació, així com l’elaboració d’un pla d’actuació inicial. Tot això fa que aquesta promesa per posar límit als riscos de la IA pugui trigar mesos a tenir forma.