El nou sistema de seguretat de l’AMB implementarà la IA

El nou sistema de seguretat que desenvolupa l’Àrea Metropolitana de Barcelona (AMB) implementarà la intel·ligència artificial (IA) en polítiques dirigides a millorar la percepció de seguretat dels 3,3 milions d’habitants de la conurbació entorn de la capital catalana. D’aquest nou servei metropolità únicament havia transcendit fins ara que serà gestionat per una empresa mixta amb participació pública majoritària, tal com va avançar EL PERIÓDICO. Abans de llançar la licitació, dimarts, l’Administració metropolitana va aprovar definitivament –amb el vistiplau de les grans forces excepte les abstencions d’ERC, PP, Vox i Junts per Tiana– el reglament del servei, al qual ha accedit aquest diari i que regula l’ús de sistemes d’algoritmes aplicats a la seguretat.

La norma, que manté la literalitat aprovada inicialment el 29 de novembre passat, preveu la irrupció de la IA aplicada a la seguretat de les 36 ciutats integrades a l’AMB, amb uns Ajuntaments que es podran afegir al servei. En alguns d’aquests municipis, tal com ja va publicar aquest diari, l’empresa de Cornellà de Llobregat que va originar el projecte pilot –que pivota sobre una app mòbil denominada M7– del nou sistema de metropolità, Einsmer Business Designer SL, ja aplicava la predicció delictiva a partir de mapes de calor basats en estadístiques de criminalitat. Encara no hi ha data per a la posada en marxa del servei en l’àrea de Barcelona.

La nova regulació metropolitana, de fet, parla de la "generació de models predictius amb algoritmes" des dels seus objectius. Aplicada a "poder anticipar escenaris, determinar possibles situacions de risc i simulacions i millorar l’espai urbà (il·luminació, disseny)", explica la literalitat del text, que emfatitza la seva consonància "amb el reglament d’intel·ligència artificial del 2024 de la Unió Europea i atenent l’escassa normativa espanyola".

"Prevenir els biaixos"

L’esmentat reglament dedica un capítol sencer per regular la implementació dels sistemes algorítmics en l’àmbit de la seguretat metropolitana. Per exemple, afirma que "la intel·ligència artificial ha de ser un instrument al servei de les persones i el seu fi últim ha de ser augmentar el benestar humà". Així com remarca aspectes ètics com el respecte pel "principi d’igualtat i no-discriminació, prevenint els biaixos del sistema".

La norma posa molt d’èmfasi en el fet que els algoritmes operin respectant la protecció dels drets fonamentals i sota supervisió humana en tot el que fa referència a la seguretat. I fins i tot exclou també alguns àmbits específics dels esmentats models predictius, ja que assumeix com a compromís "garantir que les tecnologies com la IA no s’utilitzin per anticipar-se a les decisions de les persones en àmbits com la salut, l’educació, l’ocupació i la vida privada".

Notícies relacionades

El grup Orobianco compra el restaurant Teatro

La residència Tàber va acceptar més avis sense avisar que tancava

A més de la generació de models predictius, la norma desenvolupa les funcionalitats específiques del futur sistema de seguretat, basades en els serveis que ja ha prestat l’empresa Einsmer en el projecte pilot de 15 municipis catalans, Cornellà, l’Hospitalet o Santa Coloma entre ells. D’una banda, el sistema aplicarà una via d’informació unidireccional, on hi haurà informació de servei (problemes de mobilitat o al carrer, per exemple); informació sobre Protecció Civil; sobre incidències, o notificacions emergents i comunicacions de seguretat de la Guàrdia Urbana o policies locals de les ciutats.

De l’altra, contemplarà també la possibilitat de comunicació bidireccional on el ciutadà podrà transmetre a l’Administració problemes vinculats al mal estat de la seva ciutat, a la convivència o llocs on hagi pogut tenir sensació d’inseguretat. En aquest apartat s’inclou un sistema d’alarmes molt similar al que ja aplica Einsmer en algunes urbs: els veïns podran comunicar-se amb les seves policies locals a través d’un botó d’emergència; hi haurà una possibilitat específica per a violència masclista, i existirà l’alternativa d’enviar avisos a grups d’afinitat.