"Competir amb Google o Meta és només un somni"

A l’entrar en les negociacions ja sabíem que els grans blocs serien els models fundacionals i l’ús de la IA per part de les forces de l’ordre. Hi va haver moltes discussions sobre quines obligacions adoptar en el primer cas, però en el segon va ser encara més difícil arribar a un acord.

El juny del 2023, el Parlament Europeu va prohibir la identificació biomètrica. ¿Què ha canviat des d’aleshores perquè se’n permeti l’ús per part de la policia?

El Consell de la UE (organisme que representa als estats membre, llavors presidit per Espanya) tenia un mandat molt clar. La primera proposta de la Comissió Europea ja demanava excepcions policials i puc entendre que tots els països les volguessin. Així, la prohibició exigida pel Parlament ens va permetre començar les negociacions des d’un punt més elevat i aconseguir un acord amb salvaguardes molt més sòlides del que es pensava, per això fins i tot els Verds l’han recolzat.

La llei prohibeix sistemes d’IA amb riscos "inacceptables" però en permet altres d’"alt risc" com el reconeixement facial. ¿En quins casos es limita?

Hem eliminat l’ús preventiu d’IA, que hauria obert la porta a tota mena d’abusos. També hem limitat molt l’ús de sistemes biomètrics, només aplicables en situacions d’amenaça imminent, com un atac terrorista, i mitjançant autorització judicial. A més, tot ús policial es limita a una llista molt estricta de delictes, ha de ser notificat i requereix una avaluació de riscos.

El Comitè Europeu de Protecció de Dades (CEPD) va publicar un comunicat dilluns en què un es mostra "preocupat per l’absència de línies vermelles (...) que prohibeixin des del principi les aplicacions d’IA que plantegin nivells inacceptables de riscos"...

Hauré de llegir-ho per saber a què es refereixen. L’acord té més prohibicions que l’acord inicial. Sí, hi ha una prohibició, però amb una excepció. Des del meu punt de vista, es tracta d’un ús legítim perquè serveix a l’interès públic de seguretat i es basa en un marc que garanteix que no hi haurà abusos. Així que discrepo del comunicat del CEPD.

Amnistia Internacional denuncia que la regulació donarà via lliure a l’ús d’IA a les fronteres per vigilar els migrants.

Notícies relacionades

Guerra d’Israel en directe: última hora sobre el final de la treva a Gaza, l’ajuda humanitària i reaccions

Cuba, el gran èxode

Tot el que sigui analitzar dades sense identificar o afectar un individu concret, com la IA per predir tendències migratòries o crims, no té cap raó per ser prohibit o categoritzat com d’alt risc. En el moment en què se sotmet els individus als càlculs del sistema, com la IA per optimitzar entrevistes d’asil o per detectar amenaces de certs grups, ja es considera d’alt risc. Això significa que es pot desplegar la IA en aquests contextos, però que s’ha de fer amb garanties. Sempre hi haurà supervisió humana perquè l’algoritme no tingui l’última paraula.

¿Hi haurà exempcions perquè les empreses europees puguin competir amb els gegants nord-americans de la IA?

Els sistemes d’alt risc hauran d’entrenar els seus algoritmes amb dades no esbiaixades. Els desenvolupadors d’aquests programes d’IA tindran l’obligació que les seves dades siguin precises i justes, però també a ser transparents en el seu disseny per explicar a les autoritats com han arribat a una conclusió i no a una altra. Desgraciadament, en els últims 20 anys s’han creat unes dependències que fan que ara mateix sigui molt difícil competir amb Google o Meta. Per a mi, això és només un somni. No es pot, són massa grans. Però es pot continuar sent competitiu. No s’ha de posar com a objectiu ser el pròxim Google europeu, això és un fals dilema. Es pot tenir molt èxit i crear enormes beneficis i solucions amb IA, sent fins i tot millor que els nord-americans en això, sense ser Google.