Shoshana Zuboff: «Extreure les nostres dades és robar la nostra autonomia»

Després de mercantilitzar tots els racons del planeta, el capitalisme algorítmic ha aconseguit també comercialitzar la teva vida privada, atorgant al sistema un poder sense precedents. Convertida en un best-seller internacional i comparada per la seva rellevància social amb ‘El capital’ de Karl Marx, la saberuda obra de Zuboff (910 pàgines) arriba ara a Espanya de la mà de Paidós. I la seva autora, que ha dedicat tota la seva vida intel·lectual a investigar els riscos de la revolució digital, atén EL PERIÓDICO a través d’una videotrucada.

Vostè va ser la primera a parlar del capitalisme de vigilància com a nou ordre econòmic. ¿En què se sustenta aquest model?

El capitalisme evoluciona portant al mercat les coses que viuen fora d’aquesta dinàmica per convertir-les en coses que poden ser comprades i venudes. El capitalisme industrial ho va fer amb la naturalesa, va convertir la terra en propietats. Al segle XXI es va seguir el mateix patró però amb un gir fosc. El 2001, Google va descobrir que l’experiència humana privada podria ser la pròxima fusta verge. No només el que diem o escrivim importa, sinó també el que pot ser induït de nosaltres a partir d’això. No fa falta que divulguem la nostra orientació sexual o política, però a través del nostre comportament rutinari –com entrar a Facebook o buscar alguna cosa en línia– es poden extreure senyals molt rics que poden ser afegits a un poderós mètode que crea prediccions sobre el nostre comportament.

Ara el producte en venda som nosaltres.

Sí. La forma en què funciona el capitalisme de vigilància és que l’experiència humana privada és reclamada unilateralment com una font lliure de matèria primera per traduir-la en dades de comportament. Aquestes dades són extretes i reclamades com actius per les companyies que utilitzen la nostra experiència sense el nostre consentiment. Després, aquestes dades es mouen per una fàbrica computacional anomenada intel·ligència artificial (IA), d’aprenentatge automàtic, que les analitza per establir prediccions.

És el que al llibre assenyala com a comercialització dels nostres futurs.

Sabem per un document filtrat de Facebook que el seu centre d’IA ingereix trilions de dades cada dia i és capaç de produir fins a sis milions de prediccions de comportament per segon. Aquestes prediccions han sortit de les nostres vides, són sobre nosaltres però no són per a nosaltres. Són empaquetades i venudes a clients de negocis que tenen interès a saber el que farem tard o d’hora. És un nou tipus de mercat únic, en què es comercia exclusivament amb futurs humans i el futur del nostre comportament. I han arribat a un mercat molt lucratiu, començant amb la publicitat online personalitzada.

Tan lucratiu que totes les altres empreses es van apuntar al negoci.

Tot va canviar quan els capitalistes de la vigilància, començant per Google, van entendre que es podien guanyar molts diners amb aquesta fórmula. Entre el 2001 i el 2004 els seus ingressos en línia van créixer un 3.590%. Tothom ho buscava.

I ara ja és el model econòmic dominant.

Ara tenim competència sobre qui obté la millor predicció. Per això es necessita reunir moltes dades i variats, que registrin no només el que passa a internet, també per on camines, quins són els teus sentiments o quines malalties tens. Les dades més predictives es donen amb la intervenció en el comportament de la gent de forma indetectable. A partir del 2013 van començar a experimentar amb objectius psicològics i sistemes de recompensa i càstig per aprendre què pot tenir un efecte en allò que fem.

¿I com ho aconsegueixen?

Això es va desenvolupar encara més amb el Pokémon Go, covat durant anys a Google per la mateixa gent que va crear el Maps o l’Street View. El Pokémon Go va resultar ser una forma d’experimentar amb l’ús de la gamificació, les recompenses i càstigs per aprendre a guiar la gent a través de les seves ciutats i portar-los a llocs on gastessin diners. Es va monetitzar perquè establiments clients com McDonalds i Starbucks van pagar per tenir criatures Pokémon que atreien més gent cap a ells. El joc a què jugava la gent era en realitat un altre joc en què ells eren les fitxes que, sense saber-ho, es movien pel tauler d’escacs.

Si aquestes companyies actuen en funció de les prediccions sobre el nostre comportament per condicionar-nos, ¿es pot dir que prenem decisions lliures? ¿No atempta aquest principi contra l’autodeterminació? Vostè fins i tot ha assegurat que es tracta d’un «cop d’Estat des de dalt».

Obtenen tant coneixement sobre nosaltres que poden utilitzar-lo per intervenir en el nostre comportament de maneres específiques i dirigir-lo en les direccions que compleixin els seus objectius financers. Els científics de dades expliquen que Google, Amazon i Facebook ja tenen tantes dades que poden manipular subliminarment el nostre comportament en el món virtual i tenir un efecte en el real sense que ho sapiguem, passant per alt la nostra consciència. I quan fan això ens roben la nostra manera de competir, els nostres drets de decisió, la nostra autonomia, la nostra sobirania individual.

Estem en una inesperada posició: se suposava que el segle XXI seria l’edat d’or de la democratització del coneixement però ens trobem en un lloc amb enormes asimetries de coneixement i de poder. Aquest poder no ens amenaça amb l’assassinat i el terror, ve de puntetes oferint-nos comoditat, dient-nos «¿vols un caputxino?» o «¿compres aquesta jaqueta?» per buscar maneres de modelar la nostra vida. Sap com controlar-nos. Som el contrari a la democratització, això és un atac al lliure albir.

S’ha parlat molt que aquest model d’extracció de dades serveix perquè els anunciants ens venguin millor els seus productes, però la participació de Cambridge Analytica en les campanyes de Donald Trump i a favor del ‘brexit’ mostren que també serveix per condicionar eleccions.

La gent té un clixé al cap que es tracta de publicitat ‘online’ dirigida, així que pensen que no és tan dolent. Hem d’entendre que això ha anat més enllà dels anuncis. La publicitat va ser el primer mercat a comercialitzar el futur humà, ja que compraven predileccions del nostre comportament.

Ara sabem que el capitalisme de vigilància no és només la lògica del sector tecnològic sinó que també ha afectat l’economia global, des de les assegurances de venda al detall fins a l’educació o la sanitat. Tots els productes i serveis que comencen amb la paraula «intel·ligent» o «personalitzat», tots els assistents digitals i les aplicacions que es posen al telèfon funcionen amb aquesta lògica econòmica. Les aplicacions són les mules del capitalisme de la vigilància. Recullen tota la informació que poses al teu telèfon i tot el que va a les seves fàbriques de computació. Estem vivint en un món sense sortida.

Tenint en compte aquesta colonització de l’economia global, ¿com es combaten aquestes plataformes? A més d’una regulació més gran s’està exigint trencar les grans tecnològiques.

Des del principi, els capitalistes de la vigilància ens van dir que el que estem experimentant en les seves mans és la conseqüència inevitable de les tecnologies digitals, que així és com funciona l’àmbit digital. És fàcil imaginar les tecnologies digitals sense el capitalisme de vigilància, però és impossible imaginar el capitalisme de vigilància sense la tecnologia. Podem recuperar la digitalitat i esbrinar com començar a imaginar un futur digital que realment funcioni per a la gent, satisfent les nostres necessitats, no les d’una petita elit rica. El capitalisme de vigilància és una lògica econòmica que ha segrestat la digitalitat, transformant-la en el seu cavall de Troia.

Si haguéssim estat promulgant lleis i normes durant els últims 20 anys i haguéssim fracassat, llavors hi hauria algun motiu per al pessimisme i la resignació, però els fets són al contrari, ni tan sols hem intentat encara interrompre i prohibir aquestes operacions. Només hem començat a entendre-les en els últims anys i no hem fet gairebé res per impedir-les.

¿A què es deu aquesta inacció política?

L’any en què Google va descobrir i va elaborar el capitalisme de vigilància va ser el 2001, el mateix que hi va haver l’atemptat a les Torres Bessones. Aquell any va passar una cosa molt important a Washington. Al Congrés dels EUA hi havia una intensa conversa per impulsar una legislació federal de privacitat, que es va aturar després de la tragèdia.

Empreses emergents de Silicon Valley com Google ja havien sigut sentenciades per rastrejar els seus clients a través de cookies i altres mecanismes que es consideraven una violació a la privacitat. Hi havia interès en una regulació, però amb l’11-S el Govern dels EUA i molts europeus van deixar que aquestes empreses desenvolupessin les seves capacitats de vigilància per centrar-se en la guerra contra el terrorisme. Les empreses públiques no podien fer-ho perquè estaven restringides per les lleis democràtiques, però les privades tenien via lliure. Se les va ajudar amb contractes governamentals i finançament i no es va prohibir el que feien.

Aquesta és la doctrina oculta que va donar al capitalisme de vigilància 20 anys per florir. Van passar de ser petites empreses amb nois joves i guais a enormes imperis de vigilància dirigits per emperadors envellits amb incomptables poders sobre cada aspecte de les nostres societats. Encara no hem dissenyat i imposat els drets que es requeriran per redissenyar una visió d’un futur digital que sigui compatible amb la democràcia. Aquest és el treball que hem de fer ara.

Això és a nivell legislatiu, però les grans tecnològiques també miren de responsabilitzar l’usuari de les dades que cedeix.

Les empreses són expertes en gaslighting (manipulació psicològica per fer que la gent dubti de què pensa), que és molt paralitzant i debilitant, congela la resistència. Exposen la perillosa idea que la privacitat és privada. Volen que pensis que tens el control del que els dones, però això és només una petita fracció del trilió de dades que ingereixen les seves màquines d’IA. La majoria de dades les treuen de les nostres vides sense que ho sapiguem, com quan vas a un bar i rastregen la teva cara per analitzar les teves expressions i emocions per predir a partir d’aquí el teu comportament. No tenim el control, estan robant molt més del que sabem que els donem.

¿Tenen les nostres dades un impacte més enllà de l’àmbit personal?

Estan alimentant els seus sistemes. Microsoft té una base de dades per entrenar els seus sistemes de reconeixement facial que ha creat amb totes les cares que apareixen a Facebook, com les fotos que pots estar enviant als teus avis. Microsoft va dir que no ens preocupéssim, que era per a una investigació acadèmica. Però es va descobrir que aquestes dades es venen a divisions militars de tot el món. També a l’exèrcit xinès, que manté la minoria musulmana uigur en camps de concentració on són vigilats per sistemes de reconeixement facial entrenades amb les nostres fotos de Facebook. Microsoft i Amazon són dos dels principals exportadors mundials de tecnologia de vigilància.

Pensem que estem fent un càlcul privat, però estem alimentant sistemes globals de vigilància i control que tenen conseqüències en el més profund de les nostres vides però que també afecten les persones de totes les societats. Tenim una responsabilitat pública col·lectiva de no alimentar aquests sistemes.

Notícies relacionades

Un col·lectiu demana al Parlament que flexibilitzi les cèdules d’habitabilitat

Puig: "La família mira al següent trimestre i a la següent generació"

Tinc amics que al parlar de privacitat es pregunten: «¿Per què m’espiaran a mi, si no tinc res a amagar? No soc tan important».

Si no tens res a amagar, llavors no ets res. L’única manera en què podem construir una identitat, una font interna de judici moral, els nostres propis valors per ser pensadors crítics és interiorment, en moments de solitud i reflexió, no viure amb transparència. Així és com desenvolupem la nostra capacitat interior per ser éssers humans plenament realitzats. Quan diuen que no tens res a ocultar, el que intenten és convertir-nos en persones unidimensionals. Si no tenim res a amagar, pensarem i parlarem com pensen i parlen els altres.