El costat més fosc de la intel·ligència artificial: pornografia personalitzada i sense límits

Idaira Alemán assegura que la fàcil accessibilitat a la intel·ligència artificial «ha facilitat que qualsevol persona, sense gairebé coneixements teòrics, pugui crear contingut pornogràfic fals a través d’imatges de dones reals sense el seu consentiment». 

De fet, segons un informe de l’empresa de ciberseguretat Deeptrace, el 96% del contingut deepfake ‒imatges, àudios o vídeos falsos creats amb IA i que permet superposar rostres, canviar veus, imitar expressions o moviments de persones d’una manera realista‒ està relacionat amb pornografia no consentida.

«La pornografia creada per IA elimina qualsevol límit previ», remarca Alemán i afegeix que, ara, «n’hi ha prou amb comptar amb una foto o un vídeo per inserir una dona en escenes que mai ha consentit». Els muntatges sexuals d’aquest tipus, a més, han proliferat a les xarxes socials i, segons l’estudi State of deepfakes 2023, aquell any hi va haver un augment del 464% i les dones són víctimes del 99% de deepfakes pornogràfics. 

Demanda de pornografia personalitzada

Un altre aspecte que explica l’auge de les deepfakes és la demanda de pornografia personalitzada, una actuació a l’alça a internet: «Amb només el rostre d’una persona es fabrica un vídeo a la mesura de les fantasies del demandant. Els límits entre el que és real i el que és fictici desapareixen i la dona es converteix en una mercaderia modelable a qualsevol perversió imaginada».

De manera històrica la pornografia s’ha consolidat com «un dels grans pilars de la indústria sexual», una cosa que està entrellaçada amb «la prostitució i el tràfic de dones i nenes amb finalitats d’explotació sexual». En paraules d’Idaria Alemany, tots ells són «negocis que s’alimenten entre si, que cosifiquen els cossos i que es lucren amb la desigualtat».

Si abans de l’arribada de la intel·ligència artificial la pornografia «ja havia creuat gairebé tots els límits», ara el missatge llançat és encara «més potent i perillós»: «Ja no són persones desconegudes en una pantalla, ara pot ser la teva companya de classe, la teva germana o qualsevol dona coneguda la que apareix en una escena en què fa de manera exacta el que el demandant demana». 

A través de la pornografia personalitzada, «es controla» cada detall i, amb això, es construeix un «imaginari sexual basat en el poder, la dominació i la humiliació», sentencia la coordinadora de Por-No Hablar. 

La regla ‘Rule 34’

«Si alguna cosa existeix o si es pot imaginar, algú ja l’ha convertit en porno». És la regla del ‘Rule 34’. És, també, la manera en què funciona internet. «N’hi ha prou amb posar al cercador el nom de qualsevol personatge infantil com, per exemple, les princeses Disney, Sonic, Bluey o Pikachu per trobar-ne versions sexualitzades», afirma Alemany. L’experta recorda que això es tradueix en un accés per part de menors a aquest contingut, tot i que no sigui de manera intencionada. 

«Anem cap a una digitalització total del desig on tot es pot fabricar: cossos hipersexualitzats, escenes personalitzades o vídeos protagonitzats per qualsevol persona», assenyala Idaira Alemán i a això se suma que tot «és sense consentiment i sense cap tipus de límit».

Segons el seu parer, la intel·ligència artificial, lluny de convertir les xarxes en un lloc segur, les converteix «en espais perillosos, sobretot per als adolescents i menors», ja que d’acord amb les xifres de l’organització WeProtect Global Alliance, entre el 2020 i el 2022, els ‘deepfakes’ amb temàtica sexual infantil van augmentar un 360%.

No obstant, l’experta reconeix que «un altre futur és possible» i, per aconseguir-ho, la intel·ligència artificial s’ha d’utilitzar «per educar, protegir i construir altres imaginaris sobre el cos, el desig i el plaer». Partint de la seva opinió, la clau és crear espais on la tecnologia se situï al «servei del benestar comú i no del benefici econòmic o la dominació». 

«Arribem tard, però encara hi som a temps»

Idaira Alemán assenyala que, «malgrat que arribem tard, encara hi som a temps». És, en paraules de l’experta, «fonamental» una reflexió crítica sobre «per què utilitzem les xarxes socials, quins imaginaris estem alimentant i quines conseqüències tenen sobre les relacions, especialment, quan es parla de cossos, desitjos i consentiment».

D’altra banda, és «necessari» parlar de pornografia i dels perills que comporta. Des del seu punt de vista, «si no s’intervé de manera urgent, tot caminarà cap a un escenari encara més perillós. El contingut pornogràfic serà cada vegada més personalitzat i accessible. Es podrà fabricar qualsevol escena».

Regulació i institucions

Pel que fa a les institucions, en paraules d’Idaira Alemán, «no estan prou informades ni conscienciades. Van per darrere de la realitat i reaccionen tard i malament». Els problemes que genera la intel·ligència artificial, en termes de violència digital, «són enormes i ataquen especialment dones, nenes i adolescents, però les respostes no estan a l’altura», afirma.  Denuncia també que les plataformes digitals, «no es consoliden com a espais neutres, tot funciona mitjançant algoritmes per generar ‘clicks’ i, tot i que el contingut sigui violent, si aquest enganxa l’audiència, es mostra». Les xarxes socials es posicionen com a «còmplices» perquè, a més de permetre la difusió de contingut pornogràfic, «el promouen».

La solució per a l’experta passa per implantar mecanismes de control reals, transparents i eficaços: «No tot val per un ‘click’, l’ètica no pot estar en mans del mercat i la falta de lleis clares, coordinades i efectives deixen milions de persones exposades». 

Notícies relacionades

Experts asseguren que Catalunya necessita noves xarxes de transport d’energia malgrat el rebuig de les MAT

Menys del 30% dels joves catalans tenen el català com a llengua habitual i «d’identificació»

Respecte a la Unió Europea, la llei d’intel·ligència artificial que l’organització promou (llei IA) és «un primer pas, però insuficient si no va acompanyada d’un compromís educatiu i polític molt més profund». Malgrat que l’objectiu de la legislació, aprovada el 2024 i l’entrada en vigor de la qual s’espera per a aquest any 2025, és regular el desenvolupament, comercialització i ús de sistemes d’intel·ligència artificial, «una bona llei ha de protegir les persones i no les plataformes». 

Tot i que a partir de la seva entrada en vigor la llei IA de la UE es posicionaria com la primera gran regulació d’IA al món, «una legislació sense valors no n’hi ha prou, es necessita protecció de veritat. Amb límits». No obstant, l’important, recalca Idaira Alemán, és «trencar amb la idea que el sexe és un producte de consum més».