Ada Hoffmann: «A les tecnològiques els interessa exagerar dient que tinguem por de la IA»

L’efervescència editorial dels gèneres fantàstics en català està fent que arribin a les nostres llibreries autors que encara no han atret l’atenció de la indústria editorial en castellà. O que es tradueixin, no ja els autors d’èxit segur sinó també autors de nínxol, que tot i que no hagin sigut grans èxits internacionals són joies en potència. És el cas d’Ada Hoffmann. Canadenca, científica computacional, autodefinida com a «escriptora de ficció especulativa, autista i poeta», l’editorial Chronos acaba de completar la trilogia formada per ‘L’extern’, ‘Els caiguts’ i ‘L’infinit’, en traducció d’Anna Llisterri. Tres llibres en els quals una realitat lovecraftiana irromp en un món on les intel·ligències artificials han aconseguit ser adorades com déus i dominar la humanitat a través dels seus àngels (ciborgs).

Quan va investigar sobre IA i la seva capacitat per generar poesia encara no havia esclatat el fenomen ChatGPT.

Entre els anys 2013 i 2108 vaig treballar en la meva tesi doctoral sobre la creativitat computacional. La manera en què una computadora i la intel·ligència artificial podrien fer una tasca creativa. Vaig intentar que l’ordinador generés poesia però no em va sortir gaire bé. No va funcionar, feia poesia molt molt dolenta. Però el que em va resultar realment interessant i el que, en última instància, va constituir la major part de la meva tesi, va ser la psicologia i la filosofia darrere d’una tasca com aquesta. Així que era una cosa molt teòrica. Bé, ja hi havia sistemes que pretenien crear art, però sempre s’havia vist com una joguina curiosa. Però ara tot ha canviat, hem passat d’analitzar de quina manera tan interessant s’equivocava l’ordinador al fet que faci textos molt molt semblants a un text en anglès de nivell mitjà. Però, i això té una bellesa tràgica, després de doctorar-me tot ha canviat per complet, és gairebé el contrari del que passava quan estava en el postgrau perquè hem passat d’analitzar de quina manera tan interessant s’equivoca l’ordinador al punt que de sobte l’ordinador faci un molt bon treball al crear textos molt al nivell d’un anglès mitjà. Ara el que passa amb ChatTGP és que tothom el vol utilitzar, des de la indústria fins als escolars per fer els deures. I els que l’estudiàvem ens trobem que realment no havíem pensat en què passaria si aquesta generalització es produïa. I en la comunitat de recerca estem bastant desconcertats. Ens diem: «Vaja, potser això no sigui realment bo».

Potser la poesia sigui el més fàcil d’emular en el fons. Som indulgents amb el fet que sigui inconnexa, o incomprensible.

Sobretot els tipus de poesia que conviden el lector a esforçar-se per interpretar-la. Com el haiku, aquests poemes tan compactes en els quals el lector llegeix molt significat en poques paraules. Amb aquests poemes han tingut més èxit.

Anem no a la IA de la realitat sinó a la del seu llibre. ¿Pot arribar un moment de singularitat, en el qual la IA deixi de ser una eina per convertir-se en un ens diferent de nosaltres, que pugui col·laborar, o competeixi o ens domini?

Tot i que he escrit d’això en els meus llibres, realment no penso que sigui molt probable que en el món real la intel·ligència artificial es converteixi en una superintel·ligència. Ho vaig fer perquè volia que els meus personatges estiguessin immersos en una disputa còsmica o religiosa. Amb àngels que mantenen l’ordre i el control i allà fora, un caos primitiu. ¿Com es pot crear una religió de control com aquesta en un entorn de ciència-ficció? Ara, en el tercer llibre aprofundeixo una mica més en com van sorgir originalment aquests déus i com els van crear els humans, per què els van crear i què va passar. Ara, i no quan vaig començar a escriure els llibres, el que està passant és que hi ha certs sistemes molt bons per fer certes coses. Les empreses de tecnologia ens diuen que hem de tenir por i cura perquè la seva tecnologia es tornarà superintel·ligent... Però si veiem com funciona, l’únic amb què té facilitat és a replicar els patrons que veu en les formes en què les paraules van juntes. No té el que anomenem ‘simple grounding’, la capacitat de connectar el que diuen les paraules amb l’experiència física o sensorial o entendre realment què signifiquen. Les tecnològiques estan exagerant deliberadament, demanant atenció, perquè això els dona més diners, les ajuda a atraure inversions de gent que es cregui realment que amb aquesta tecnologia s’apoderaran del món. Però no és així.

¿ChatGPT és alguna cosa més que una interfície en llenguatge natural d’un motor de cerca?

ChatGPT-4 és una xarxa neuronal que es va entrenar amb una quantitat de text increïblement enorme, que inclou bàsicament tota Internet i probablement també un munt de llibres amb drets d’autor pels quals no va pagar. I l’únic per què està entrenada aquesta xarxa és per predir la següent paraula que vindrà després en una seqüència de paraules. Predicció estadística, i respostes conversacionals. Molt bo a donar coses que semblen bones respostes, i són correctes... però no sempre.

En la ciència-ficció de fet hi ha una llarga tradició de robots rebels, ordinadors conscients i díscols, intel·ligències artificials, però pensades com a individus, rèpliques d’una ment humana. ¿Quina ciència-ficció estem escrivint, o s’escriurà, davant la nova visió de la IA?

No crec que hi hagi una tendència singular. Encara hi ha moltes maneres de parlar de la IA en la ciència-ficció. Està bé explorar moltes idees. Un dels meus exemples actuals favorits d’aquesta IA personal de què parles són els llibres de ‘Murderbot’ de Martha Welles, un cíborg sarcàstic que està fart de les tonteries humanes. Però anem cap al tipus d’IA en xarxa, una cosa que va començar a aparèixer ja davant Internet en els 90. En els pròxims anys el que espero és una ficció més compromesa per explicar com ens afecta els valors humans en el present i com això podrà extrapolar-se en el futur. Hi ha alguns problemes realment interessants en l’ètica de la IA tal com existeix avui dia: com absorbeix dades esbiaixades o què passarà amb les persones que tenen una feina que s’automatitzarà. Aquí hi haurà molta ficció en els pròxims anys.

Bé, també s’ha utilitzat la IA per trobar una manera tecnològicament plausible de parlar de la immortalitat.

Efectivament. En definitiva, en els meus llibres el que faig és utilitzar la IA per parlar de religió i control social.

Es defineix com a no neurotípica, i també ho són alguns dels seus personatges. ¿Ens pot explicar el concepte?

Són les persones amb un desenvolupament cerebral realment una mica diferent del que anomenaríem el cervell mitjà. Les persones amb, per exemple, autisme o TDAH o alguna altra afecció neurològica d’aquesta naturalesa. Jo soc no neurotípica. Em van diagnosticar autisme quan tenia 13 anys i m’agrada escriure sobre personatges autistes i altres personatges no neurotípics. Quan escrivia com es troba el meu protagonista davant l’horror còsmic davant el qual es troba, del que realment estic parlant és d’una sobrecàrrega sensorial autista. Hi ha persones per a qui els sorolls o els colors són molt intensos, així que imagina’t davant un horror còsmic incognoscible.

Hi ha terror còsmic, en el sentit més general del que va fer Lovecraft. Però vaig per mitja trilogia i de moment, no hi ha tentacles, ha evitat la seva imatgeria. Altres autors de ‘new weird’ també prefereixen que irrompi l’estrany a mode de distorsions de la realitat, com Jeff Vandemeer, Tade Thompson, China Mieville...

Hi ha idees molt interessants en l’horror còsmic. La idea que l’univers és tan gran que realment no el podem comprendre. ¿I què se sent quan t’enfrontes directament a una cosa que no pots comprendre? Les imatges més reconeixibles, en canvi, ja s’han tornat ‘kitsch’. Volia centrar-me realment en l’aspecte més conceptual, no necessàriament calamars gegants. I imaginar un món infectat com a metàfora de la sobrecàrrega sensorial. Estar dins d’un món tan caòtic en el qual passen tantes coses alhora i tan intenses que és difícil fins i tot moure-t’hi.

Però del terreny còsmic baixa al molt terrenal. També hi ha component d’idil·li. Aquests dos àngels, la científica protagonista i la seva parella enginyera.

Quan parles d’una cosa molt abstracta pots perdre la perspectiva, així que pensar en els personatges, les seves inclinacions romàntiques o les seves connexions amb altres personatges ajuda a veure què està en joc en les seves vides. Hi ha coses valuoses en la vida normal, no només el destí de la galàxia.

Notícies relacionades

Barcelona, capital de la innovació social

Mazón i l’efecte Pinotxo

Hi ha uns passatges especialment divertits en el llibre. Els passatges en cada capítol del catecisme o els contes perquè els nens aprenguin a adorar les IA divines.

Sí, em vaig divertir molt amb aquestes seccions, estava pensant en contes de Kipling, més aviat. I, per descomptat, són un vehicle per explicar al lector una mica més sobre el món.