La falta d’acord a la Unió Europea posa en perill la regulació de la intel·ligència artificial

Fa anys que la Unió Europea (UE) treballa en una pionera regulació de la intel·ligència artificial (IA). El projecte, que pretén prohibir els usos més perillosos d’aquesta tecnologia, es troba en l’última fase del procés legislatiu. En els pròxims dies s’hauria de tancar un acord final. No obstant, la tensa falta d’acord entre les parts amenaça de posar tota la llei en risc.

El 14 de juny, el Parlament Europeu va donar llum verda a la primera legislació integral sobre IA del món. Amb una aclaparadora majoria de 499 vots a favor, la càmera va acordar exigir la prohibició total de la vigilància massiva amb sistemes d’identificació biomètrica en temps real i establir una sèrie de restriccions a l’ús d’aplicacions d’IA generativa, com el conegut ChatGPT.

No obstant, el text aprovat llavors no és el definitiu. El redactat final de la llei s’ha de consensuar amb la Comissió Europea i el Consell Europeu –integrat pels líders polítics dels 27 estats membres–, una negociació a tres bandes que podria descafeïnar el projecte fins a fer-lo descarrilar. Aquest procés, conegut com a ‘diàleg a tres’, està evidenciant una visible falta de sintonia sobre com regular la IA.

Vigilància biomètrica

Un dels punts més controvertits és el dels sistemes de reconeixement facial. Tot i que l’Eurocambra va pactar la prohibició del seu ús en temps real, en els últims dies els eurodiputats han abandonat aquesta restricció total a canvi d’altres concessions. Així, segons el portal Euractiv, es permetria l’ús d’aquesta tecnologia per part de la policia i en casos concrets com la localització d’un desaparegut o per prevenir un atemptat terrorista.

Aquest gir preocupa profundament les organitzacions de la societat civil. «No hi ha cap nivell de vigilància massiva que sigui acceptable, ja que va en contra dels drets fonamentals», explica a EL PERIÓDICO Ella Jakubowska, assessora política de l’organització European Digital Rights (EDRi). L’experta denuncia que el Parlament hagi fet «concessions enormes» sobre un acord democràtic ja votat i adverteix del «perill» que, si s’aprova així, la llei europea podria legitimitzar la vigilància biomètrica arreu del món.

La IA continuarà sent utilitzada per vigilar les persones migrants a les fronteres europees, una aplicació que desperta recels més fora que dins de les negociacions. «És trist que la prohibició d’aquests sistemes per experimentar amb els més vulnerables no sigui ni a sobre de la taula», lamenta Jakubowska. «La falta d’humanitat està integrada a la llei de la IA, és una oportunitat perduda».

Disputa amb ChatGPT

Un altre punt de disputa són els anomenats ‘models fundacionals’, el cor tecnològic d’eines generatives com Bard, de Google, o ChatGPT i DALL-E, totes dues creades per OpenAI i finançades per Microsoft. Fa unes setmanes semblava haver-hi consens sobre la necessitat de fixar normes més estrictes per als sistemes més potents, un enfocament basat en el potencial risc que perjudicava especialment aquests gegants empresarials nord-americans.

No obstant, el plantejament desagrada grans països de la UE com França, Alemanya o Itàlia, que s’han oposat a qualsevol tipus de regulació dels models fundacionals. Els governs de les tres nacions argumenten que aquesta normativa posarà en perill la innovació, però el seu rebuig «autodestructiu» també respon a la «pressió de la indústria de la IA», segons Daniel Laufer, analista polític de l’organització internacional Access Now.

Notícies relacionades

¿Quins reptes comporta l’ús d’IA?

Treu fotos per emmarcar aquestes vacances: aquestes són les millors càmeres i objectius

El canvi de posició va indignar tant els eurodiputats que van abandonar la reunió tècnica de dijous en senyal de protesta. També indigna la societat civil. Laufer demana als estats estar més oberts a negociar per obligar les companyies a ser transparents. «Estem parlant de drets clau per a les nostres democràcies», adverteix en declaracions a EL PERIÓDICO.

Rellotge en contra

La previsió inicial era que l’acord polític sobre la llei de la IA es tanqués el 6 de desembre. No obstant, les discrepàncies entre les parts podrien ajornar-lo. Espanya pressiona perquè s’arribi a un pacte abans que acabi l’any i la seva presidència del Consell. Si no és així serà la pròxima presidència, gestionada per Bèlgica, la que haurà de lligar els caps solts abans de les eleccions europees de juny. El temps juga en contra d’un projecte pioner que podria acabar sent paper mullat.