El creador de ChatGPT llança una eina per detectar els textos escrits per la intel·ligència artificial

La popularització de sistemes d’Intel·ligència Artificial (IA) com ChatGPT, capaç de generar de forma automàtica tota mena de textos, estan obrint un profund debat social sobre l’impacte d’aquesta emergent tecnologia. ¿I si ja no podem distingir entre el que escriu un humà i el que escriu una màquina? ¿Accelerarà això la nostra desconfiança?

Aquest temor creix a mesura que el xatbot –capaç de respondre falsedats presentant-les com a certes– és cada vegada més utilitzat entre estudiants, investigadors acadèmics i fins i tot periodistes per realitzar la seva feina.

Això ha portat OpenAI, la companyia desenvolupadora de ChatGPT, a llançar una nova eina gratuïta per predir si un escrit ha sigut generat artificialment. L’empresa que ha popularitzat aquesta IA publica ara una altra IA per detectar-la.

We’re developing a new tool to help distinguish between AI-written and human-written text. We’re releasing an initial version to collect feedback and hope to share improved methods in the future. https://t.co/4dQE3dX6vX

— OpenAI (@OpenAI) 31 de enero de 2023

«No Fiable»

Tanmateix, aquest classificador «no és totalment fiable». La mateixa OpenAI assenyala que la seva eina en fase inicial identifica correctament només el 26% dels textos escrits per ChatGPT o altres IA similars, mentre que en un 9% dels casos etiqueta com a text artificial aquell generat per humans. «El nostre classificador té una sèrie de limitacions importants. No ha d’utilitzar-se com a eina principal per a la presa de decisions, sinó com a complement d’altres mètodes per determinar l’origen d’un text», explica la companyia.

Notícies relacionades

Les escoles de Nova York prohibeixen la intel·ligència artificial ChatGPT pel temor que es copiï

Microsoft inverteix 10.000 milions en OpenAI, creadora de la intel·ligència artificial ChatGPT

Així doncs, ¿per què publica OpenAI una eina que falla? L’empresa ha assegurat que l’ha compartit «per obtenir opinions» i anar millorant el seu mètode. Els models de llenguatge com l’utilitzat per ChatGPT milloren a l’entrenar-se amb noves preguntes a resoldre. Així, recolzar-se en el públic perquè experimenti amb aquest classificador «imperfecte» és el camí més ràpid (i barat) per perfeccionar el seu producte. Per això van fer el mateix amb el llançament del seu xatbot.

Sam Altman, un dels fundadors de OpenAI, ha advertit en les últimes setmanes sobre l’ús acrític de ChatGPT perquè incorre en fallades i és «impossible de fer que sigui perfecte». Tot i així, continuaran experimentant amb la IA. Una experimentació que també respon a la voluntat de la companyia –en la qual Microsoft ha invertit 10.000 milions de dòlars– d’avançar-se a la competència i ser la primera a liderar l’emergent mercat de la que pot ser la tecnologia de la dècada. En els últims dies, investigadors havien publicat les seves solucions per detectar el text generat per IA. Traient la seva, OpenAI busca continuar guanyant terreny.