Algoritmes contra insults: així es mesura l'odi a internet
zentauroepp46056315 mas periodico tema odio foto twitter181130153613 /
Un mateix insult racista publicat a les xarxes socials comporta una pena més alta (entre dos i quatre anys de presó) que si es pronuncia en ple carrer (entre un i quatre anys). Aquest matís, recollit pel Codi Penal, evidencia l’amenaça provoca que la xarxa ara mateix sigui el canal preferent de propagació de missatges que van nodrint l’anomenada cultura de l’odi. Les plataformes són, segons tots els experts, el principal camp de batalla en la lluita contra els discursos d’odi per a la seva capacitat gairebé inabastable per difondre tota mena de missatges tòxics i la dificultat de controlar-los.
Cada dia, de mitjana, s’escriuen a la xarxa uns 10.000 missatges tòxics
Descartada –per impossible– l’opció de posar-li portes al camp –en aquest cas, a la xarxa–, la policia es planteja un repte menor, tot i que també ambiciós: tenir-lo vigilat. El Ministeri de l’Interior comença a utilitzar una aplicació digital que li permetrà monitoritzar en temps real el clima d’odi que es respira a la xarxa. «No serveix per identificar casos concrets, que d’això ja s’encarreguen altres equips de la Policia, sinó per conèixer cap on es dirigeixen majoritàriament els insults, d’on provenen les amenaces i quin és el nivell de crispació que hi ha a la xarxa», explica Miguel Camacho, cap de l’Oficina Nacional de Lluita contra Delictes d’Odi del Ministeri de l’Interior, inspector de policia de professió i matemàtic de formació.
Interpretar el context
El programa és una adaptació del treball final de màster de l’enginyer informàtic Juan Carlos Pereira Kohatsu, de la Universitat Autònoma de Madrid, que es va proposar crear un algoritme que discriminés, entre la massa de missatges que s’escriuen a la xarxa, els que són agressius, ofensius i amenaçadors contra col·lectius concrets o persones particulars. La gràcia de l’invent és que l’algoritme no es limita a identificar les paraules que solen aparèixer en aquest tipus de tuits –normalment, insults o desqualificacions–, sinó que sap llegir els missatges i és capaç d’interpretar-ne el context, fet que permet afinar en la identificació dels continguts d’odi. Fins i tot processa la informació que aporten les emoticones.
L’aplicació actua sobre un volum de sis milions de tuits cada 24 hores
L’aplicació actua sobre un volum de 6 milions de tuits cada 24 hores, i això suposa una mostra bastant representativa de l’atmosfera que es respira a Twitter en cada moment. Extrapolant les dades obtingudes en tota la plataforma, Pereira ha descobert que cada dia, de mitjana, s’escriuen a la xarxa uns 10.000 missatges tòxics.
Els pals, per als polítics
"El més sorprenent és que la xifra no acostuma a variar. Canvien els autors dels missatges i els destinataris, però el nivell d’odi de la xarxa és constant", assenyala l’enginyer, que ha provat l’eina en dies concrets extraient conclusions que criden l’atenció. "La nit d’Eurovisió, Alfred va ser el destinatari de la majoria dels atacs. El van deixar com un drap brut pel fet de ser català. En els Madrid-Barça no falla: o s’insulta per la política o es carrega contra els futbolistes més destacats. En els Madrid-Barça, no falla: o s’insulta per la política o es carrega contra els futbolistes més destacats.
El 80% dels usuaris que reben una advertència de Twitter ja paren més atenció de caure de nou en l’error
L’altra manera d’actuar sobre l’odi que circula per les xarxes té a veure amb la conscienciació dels mateixos usuaris, tasca en què hi sol haver concentrades les plataformes. Des del 2017, Twitter ha introduït 50 canvis en les polítiques d’ús de la seva aplicació per millorar la salut de la conversa digital. Les normes de la companyia prohibeixen taxativament la promoció de la violència, però això no impedeix que la xarxa sigui un continu encreuament d’insults.
Contra això només hi ha un camí: bloquejar l’agressor i reportar-lo a Twitter que, depenent de la gravetat de cada cas, adverteix l’atacant perquè esborri el missatge tòxic, li suspèn el perfil de forma temporal o l’hi cancel·la permanentment. El toc d’atenció acostuma a funcionar: segons fonts de Twitter, el 80% d’usuaris advertits té cura de caure de nou en l’error. “Els comptes reportats per abús només constitueixen l’1% de tot Twitter”, aclareix una portaveu de la companyia. El problema és que aquest 1% provoca un soroll que contamina tota la xarxa.
