Què és ChatGPT, llums i ombres de la Intel·ligència Artificial que està fascinant el sector tecnològic

Aquest ambiciós projecte va ser llançat el 30 de novembre passat. Darrere, hi ha OpenAI, una organització sense ànim de lucre fundada pels multimilionaris Elon Musk i Sam Altman que està liderant la investigació en aquest camp. El ChatGPT està entrenat amb una ingent base de dades de text extretes d’internet amb el 2021 com a data límit. Partint d’aquestes dades, el sistema crea estadístiques i les utilitza per predir quines paraules ha d’ajuntar per crear una frase determinada. Això li permet respondre’t de manera natural i precisa.

Aquest xatbot és l’evolució de GPT3, un model de llenguatge capaç de produir textos simulant la redacció humana. Per a això, se serveix d’aprenentatge profund (‘Deep Learning’, en anglès), com es coneix un conjunt d’algoritmes programats per aprendre de manera automàtica, millorant constantment per ser més creïble. «Tot i que a nivell tècnic no és gaire nou, aporta una gran quantitat de textos i simula cada vegada millor la falsa impressió de raonament, és impressionant», explica a EL PERIÓDICO David Casacuberta, professor de lògica i filosofia de la ciència a la UAB.

La possibilitat d’elaborar qualsevol text que li demanis, des de resumir-te un llibre fins a compondre la lletra d’una cançó, ha impressionat molta gent. En menys d’una setmana, ChatGPT s’ha convertit en un fenomen més enllà dels sectors tecnològics. Diumenge, quatre dies després del seu llançament, ja acumulava més d’un milió d’usuaris. Tot i així, el sistema està programat per no donar la seva opinió ni entrar en qüestions polítiques.

Promeses i limitacions

Durant els últims dies, els usuaris han pogut testejar el potencial de ChatGPT tant des de la pàgina web d’OpenAI –a la qual es pot accedir per participar-hi sense cap problema– com des d’un bot que s’ha habilitat a Twitter per utilitzar sense haver de registrar-te. Molts d’ells han compartit meravellats les respostes ofertes pel xatbot, assenyalant que la seva capacitat creant textos és tal que amenaça de reemplaçar professions senceres com juristes o periodistes i fins i tot el cercador de Google.

Tanmateix, després de les primeres reaccions eufòriques, han sorgit els dubtes i els matisos. «La gent ha sobredimensionat el potencial d’aquest eina d’una manera reduccionista», lamenta Ariel Guersenzvaig, professor de Filosofia de la tecnologia i ètica d’IA a Elisava. Tot i que apunta que ChatGPT «pot ser un abans i un després en entorns limitats», descarta els titulars apocalíptics que s’han escrit aquests dies. «Els escacs no s’han extingit perquè hi ha ordinadors que juguen de manera excel·lent», afegeix.

Els dos experts recalquen que la màquina no raona per si mateixa, sinó que ha sigut programada específicament per humans per simular una capacitat de creació partint d’una sèrie de dades.

Possibles riscos

Notícies relacionades

El desplegament de la intel·ligència artificial a Espanya amenaça d’accentuar la discriminació dels migrants

L’Hospitalet i BCN perden la batalla: no acolliran ni l’Agència Espacial ni la d’Intel·ligència Artificial

Un dels principals problemes de ChatGPT és que incorre en errors, alguns tan bastos com considerar que un quilo de vedella pesa més que un quilo d’aire comprimit. Diversos usuaris han detectat que el xatbot presenta com a certa informació històrica errònia i que no detecta dades equivocades si aquestes ja estan presents en la petició de l’usuari. Just a l’entrar a la seva web, OpenAI adverteix que el sistema «pot generar ocasionalment informació incorrecta o enganyosa i produir continguts ofensius o tendenciosos». Tot i així, després d’informar-lo, pot corregir els seus errors i aprendre per millorar els seus resultats.

seems legit pic.twitter.com/mGysyzt3W1

— official (@alexhern) 5 de diciembre de 2022

El ChatGPT no només pot cometre errors, sinó que pot generar respostes versemblants però falses, una combinació perillosa. Tot i així, l’aparença a raonament perfecte i infal·lible pot portar alguns usuaris a «entregar-se a l’oracle de manera acrítica», adverteix Casacuberta, que apunta que, a diferència de Google, aquest xatbot no detalla la font de la qual ha tret la informació. «No hi ha manera de saber com ha arribat a aquesta conclusió, així que només et queda fiar-te’n (...) i continua inventant-se coses», afegeix Guersenzvaig. Tot això fa que ChatGPT pot ser utilitzat per blanquejar la desinformació. Aquest mateix problema va portar que, aquest dilluns, el portal de preguntes i respostes per a programadors informàtics Stack Overflow optés per prohibir temporalment als seus usuaris compartir les respostes generades pel nou xatbot d’OpenAI.