El creador del sistema de censura xinès a internet alerta sobre els riscos de ChatGPT

El pare del «Gran tallafoc» de la Xina, Fang Bingxing, ha expressat la seva preocupació per ChatGPT, una eina d’intel·ligència artificial (IA) generativa que pot «proporcionar respostes a tota mena de preguntes» i «manipular les perspectives de les persones».

Fang, considerat per molts com el principal dissenyador del sistema de censura i vigilància d’internet al gegant asiàtic que bloqueja l’accés a múltiples pàgines web i serveis estrangers, ha declarat que ChatGPT podria crear un «capoll d’informació» en el qual els usuaris s’aïllin de la realitat, ha informat avui el diari hongkonguès South China Morning Post.

ChatGPT és un producte desenvolupat per OpenAI, una companyia que la setmana passada va publicar GPT-4, una actualització més potent del model anterior que pot analitzar imatges i té més capacitat de raonament.

Aquestes eines fan servir un model avançat de processament del llenguatge natural que pot generar textos coherents i creatius a partir d’una entrada inicial.

El Govern xinès ha prohibit a les empreses tecnològiques locals oferir accés a ChatGPT al públic i els ha exigit que informin les autoritats abans de llançar els seus propis serveis similars, segons un informe publicat per Nikkei Asia al febrer citant fonts.

Un dels primers a fer-ho ha sigut Baidu, el gegant xinès dels motors de cerca, que dijous passat va presentar el seu xatbot Ernie Bot.

No obstant, el debut no ha generat les expectatives desitjades i ha provocat una caiguda del 6,4% a les accions de la companyia a la Borsa de Hong Kong, tot i que divendres es van recuperar després que diversos bancs d’inversió donessin perspectives optimistes sobre el seu rendiment.

Fang, en una entrevista realitzada la setmana passada pel mitjà Red Star News, també va advertir sobre els possibles riscos que la IA podria suposar per a les persones si s’incorpora a robots i cotxes i va assegurar que «hem d'estar vigilants pel dany potencial que li podria fer als humans».

Notícies relacionades

El Papa i el dubte

César González-Saavedra, doctor en Desenvolupament Comunitari: "Hem d’enfortir les xarxes socials reals, no les digitals"

En canvi, molts experts han rebutjat aquest escenari en el qual la IA es rebel·la contra la humanitat i han destacat els beneficis socials i econòmics que pot generar aquesta tecnologia.

Pequín va anunciar durant la sessió anual del legislatiu celebrada a principis de març que continuarà brindant suport a la «indústria estratègica emergent» de la intel·ligència artificial per aprofitar-se’n dels beneficis, i va posar ChatGPT com a exemple de creixement.