'Minority report' ja és aquí

Quan al setembre Apple va presentar l’iPhone X, el model que per desbloquejar el telèfon i autoritzar compres utilitza la tecnologia de reconeixement facial FaceID, Edward Snowden en va elogiar el «robust sistema». Però l’antic analista de l’Agència Nacional de Seguretat dels Estats Units, que coneix els abusos de les autoritats aprofitant la tecnologia, també va llançar la veu d’alarma: «Normalitza l’escaneig facial, una tecnologia de la qual s’abusarà en el futur».

Snowden no está sol en l’advertència. Malgrat que el reconeixement facial funciona des de fa anys en el sector públic i en el privat, l’iPhone X fa el gran salt a la seva popularització. «La gent s’acostumarà a posar la cara per identificar-se i això permetrà als governs i a les companyies convèncer-los que també ho facin servir en altres àmbits», assegura Jennifer Lynch, advocada especialitzada en privacitat i drets civils de l’Electronic Frontier Foundation. «Estem incorporant aquesta tecnologia a les nostres vides de manera innecessària», critica Jake Laperruque, advocat a The Constitution Project, organització que treballa per la transparència al govern federal.

"La possibilitat de fer malifetes és alta"

Ningú nega els potencials beneficis del reconeixement facial en seguretat o en comerç, ni els esforços d’Apple per emmagatzemar la informació biomètrica que recopila en el propi telèfon en lloc d’enviar-la a través d’internet. Però, en opinió de Lynch, «la gent no és conscient que el Govern està utilitzant aquesta tecnologia i que les dades facials poden ser utilitzades per tercers», incloent-hi aplicacions que distribueix la mateixa Apple.

«La possibilitat de fer malifetes amb dades facials és bastant alta –comentava a The Washington Post Jay Stanley, un analista de la Unió Americana de Llibertats Civils–. Si no avui, aviat; si no a Apple, a Android». I afegia: «El perill del reconeixement facial és que som objectius a qualsevol lloc on anem i en tot allò que fem, i els usos acceptables podrien aplanar el terreny per a usos menys acceptables».

Una tecnologia ubiqua

La ubiqüitat és una de les característiques de la tecnologia de reconeixement facial. En molts comerços de roba d’alta gamma, per exemple, s’escaneja els clients per identificar els més lleials o els famosos per donar-los un tracte preferent. A la Xina, on s’està adoptant a gran velocitat, s’utilitza per a activitats rutinàries com entrar a la feina, treure diners de caixers, evitar el robatori de paper de bany en lavabos públics i oferir en restaurants menús personalitzats després d’identificar biomètricament l’edat i el sexe dels clients. I a Rússia, una aplicació permet fotografiar un desconegut al carrer per després verificar si està en una xarxa social.

La propagació del sistema ha tingut lloc amb un escàs debat públic i una gairebé nul·la regulació. Una combinació que l’advocada Lynch atribueix als Estats Units «als diners i la influència de lobbies de companyies tecnològiques i de contractistes del Govern» que frenen qualsevol legislació, i a la insistència d’aquestes grans empreses «en l’argument que són capaces de controlar-se elles mateixes», que Lynch defineix com «una bogeria».

Abusos de les autoritats

Ja hi ha hagut conflictes, com quan, a Rússia, el reconeixement facial es va utilitzar per assenyalar participants en una manifestació contra la corrupció o per activar una campanya de ciberassetjament contra actrius porno. I el doble problema –falta de debat i de regulació– es repeteix en l’ús, cada vegada més extensiu, d’autoritats d’arreu del món. Al Regne Unit i els Estats Units, per exemple, la policia ja l’ha fet servir en grans esdeveniments esportius, com la final de Champions a Cardiff entre el Reial Madrid i el Juventus i en un torneig de golf a Califòrnia. I aviat la informació biomètrica de qualsevol que trepitgi un aeroport nord-americà serà enregistrada per un programa anomenat Biometric Exit.

Un informe publicat l’any passat pel Centre sobre Privacitat i Tecnologia de la Universitat de Georgetown va revelar la magnitud del problema als Estats Units. Encara que incomplint la llei no ho va fer públic fins al 2016, l’FBI va llançar el 2011 el Next Generation Identification-Interstate Photo System, una base de dades avançada que va ampliar la seva recopilació d’informació biomètrica molt més enllà de les empremtes dactilars o l’ADN de persones que han sigut arrestades. Gràcies a acords amb diferents estats i amb els departaments d’Estat i Seguretat Nacional, l’FBI recopila fotos que ciutadans corrents s’han fet per al carnet de conduir o per al passaport. I, actualment, 117 milions de nord-americans, més de la meitat dels adults del país, es troben sense el seu coneixement o el seu consentiment en una vasta xarxa de dades biomètriques. 52 agències de llei i ordre admeten que la fan servir. Només una d’elles té permís legislatiu per fer-ho.

Ni controls ni precisió

«La gent innocent no ha d’estar en bases de dades criminals», va destacar Álvaro Bedoya, director del centre i de l’estudi. «A l’utilitzar el reconeixement facial per escanejar les cares de carnets de conduir i d’identitat de 26 estats, la policia i l’FBI han introduït la meitat dels adults dels Estats Units en una roda d’identificació policial massiva virtual. No s’havia fet mai amb empremtes o ADN. És un territori inexplorat i francament perillós».

El mateix Govern ha reconegut els problemes d’aquest sistema. Ho va fer l’any passat en un informe de l’Oficina de Responsabilitat que, analitzant l’ús de la tecnologia de reconeixement facial per part de l’FBI, va descobrir que no hi ha responsabilitats, ni control ni precisió, ni es fan proves sobre els errors del software o els falsos positius. I una representant de l’organisme, Diana Maurer, va declarar davant el Congrés al mes de març: «No se sap com de sovint el sistema identifica erròniament el subjecte equivocat i a gent innocent li podria caure el pes de ser falsament acusada».

Un sistema amb biaix racista

En aquella vista es va exposar un altre problema del qual alerten experts com Joy Buolamwini, investigadora negra de l’MIT que va demostrar que un sistema de reconeixement facial no llegia la seva cara i sí que ho feia quan es posava una màscara blanca. Les tecnologies de reconeixement facial són menys precises a l’identificar persones pertanyents a minories (així com dones i joves), al mateix temps que l’ús de la informació biomètrica i de les bases de dades repliquen biaixos discriminatoris. Es tracta d’una «combinació infernal» que va resumir així el congressista negre Elijah Cummings: «Si ets negre, és més possible que se’t sotmeti a aquesta tecnologia i la tecnologia és més possible que s’equivoqui».

És un problema que travessa fronteres, com es va demostrar a Londres quan la policia la va utilitzar en una festa de comunitats de les Índies Occidentals, suposadament per buscar agitadors, i només va aconseguir una identificació correcta i 35 d’errònies. Als Estats Units, augmenten advertències com la de Lynch, l’advocada de l’Electronic Frontier Foundation: «És una tecnologia que impacta en minories i immigrants abans que en caucàsics i es farà servir en poblacions immigrants primer i en comunitats negres i llatines perquè ja estan sobrevigilades per la policia».

Impacte en l’activisme

Notícies relacionades

10 coses que cal saber de Sílvia Caballol, l’‘amor’ de l’(ex)bisbe de Solsona

Twitter, any I: la impulsiva revolució d’Elon Musk transforma la xarxa social i redueix el seu negoci

Hi ha una preocupació extrema també entre els experts i activistes en privacitat i drets civils per les conseqüències que l’ús policial d’aquesta tecnologia pot tenir en la llibertat d’expressió i de reunió, especialment davant les informacions que apunten que s’està utilitzant en manifestacions (com les protestes a Baltimore del 2015 per l’assassinat de Freddie Gray) i més tenint en compte l’historial de l’FBI i altres agències policials de perseguir activistes o minories (com quan es va espiar la comunitat musulmana a Nova York després de l’11-S). «Fins i tot si no s’abusa de la tecnologia, si no hi ha regulacions que en limitin l’ús, la gent tindrà por que pugui utilitzar-se o s’acabi utilitzant i, només per aquesta possibilitat, no participarà en les activitats», alerta Laperruque.

«La gent creu que parlem de coses de pel·lícules d’espies, de ciència-ficció, d’una cosa del futur, però això no és Minority report», adverteix l’advocat referint-se a la pel·lícula basada en el relat de Philip K. Dick en la qual Steven Spielberg va tocar molts d’aquests temes. «Allò estava ambientat en el 2052. Això ja està passant ara».