«És un perill imprudent»: més de 1.000 personalitats demanen parar la intel·ligència artificial més avançada

La intel·ligència artificial (IA) avança a un ritme frenètic. Des que l’accés a ChatGPT es va obrir al públic el novembre passat, el sector tecnològic ha accelerat la seva aposta pel llançament d’eines que doten les màquines amb una capacitat de resposta cada vegada més potent. Microsoft ha pres la davantera en una carrera empresarial «fora de control» que li pot reportar beneficis multimilionaris, però l’impacte social, econòmic i cultural que té comporta «profunds riscos per a la humanitat».

Aquest temor és el que ha fet que més de 1.000 personalitats firmin una carta oberta en la qual es demana als laboratoris d’IA «suspendre immediatament durant almenys 6 mesos» l’entrenament de sistemes més potent que GPT-4. Aquesta és l’última generació del model de llenguatge d’OpenAI, companyia creadora de ChatGPT, publicada el 14 de març i que Microsoft ja està integrant en els seus serveis, des del cercador Bing a programes com Word i Excel. «Aquesta pausa ha de ser pública i verificable [...] si no es pot fer ràpidament, els governs hi haurien d’intervenir i instituir una moratòria», expliquen.

La carta està firmada per 1.125 experts, tant de l’àmbit empresarial com especialment de l’acadèmic. De manera significativa, el primer signant és l’informàtic canadenc Yoshua Bengio, un dels pioners en l’avenç de l’aprenentatge profund, la tecnologia en què es basen sistemes com ChatGPT. Entre els signants destaquen noms com els d’Elon Musk, director general de Tesla, Twitter i SpaceX; Steve Wozniak, cofundador d’Apple; l’intel·lectual Yuval Noah Harari, i el polític Andrew Yang, candidat presidencial demòcrata dels Estats Units el 2020. També els acompanyen els cofundadors de plataformes com Skype, Pinterest i Ripple.

IA no confiable

Tot i que aquests són els noms més mediàtics, la major part dels signants són reputats acadèmics i investigadors en IA d’arreu del món. «Es tracta d’una tecnologia amb l’objectiu de crear text que sembli llenguatge humà, però té un problema de fons molt important que és que no pot garantir que el que diu és cert, no és confiable», explica Carles Sierra, director de l’Institut d’Investigació en Intel·ligència Artificial (IIIA) del Consell Superior d’Investigacions Científiques (CSIC), a EL PERIÓDICO en una trucada.

Aquesta poca fiabilitat fa que, segons Sierra, les conseqüències siguin impredictibles, però potencialment tan «perilloses» com el «m’agrada» de les xarxes socials. Aquesta és la raó per la qual es demanda una regulació que protegeixi els ciutadans davant l’estratègia «imprudent» de gegants tecnològics com Microsoft.

Entre els prestigiosos experts nacionals que firmen aquesta missiva hi ha Ramon López de Mántaras, director de l’IIA; Francesc Giralt, professor emèrit de la Universitat Rovira i Virgili, i Mateo Valero, director del Barcelona Supercomputing Center- Centre Nacional de Supercomputació.

Notícies relacionades

¿ChatGPT et traurà la feina? Aquests llocs de treball podrien veure’s amenaçats per l’IA

Elena Gil Lizasoain : "Les empreses se’n poden beneficiar, però la IA no és la resposta a tots els problemes"

La majoria de les 1.125 persones que han firmat la carta són experts de l’àmbit universitari i de centres d’investigació en IA. «Els acadèmics poden parlar més clar que les limitacions que hi ha dins de la indústria tecnològica», assegura Sierra. «El que fa més por és que les empreses estan obrint un meló de milers de milions de dòlars i ja sabem què passa quan hi ha diners pel mig».

Tot i així, aquesta carta també és vista amb recel per alguns experts. Emily M. Bender, professora de lingüística computacional a la Universitat de Washington, ha assenyalat que, malgrat que coincideix en algunes crítiques, la redacció d’aquest comunicat «ajuda» a exagerar les capacitats de l’IA, cosa que contribueix al bombo publicitari dels gegants com Microsoft o Google.