IA: unes eines que hem de controlar

El que està passant és la maduració d’un conjunt de sistemes de tractament de les dades que fa més de 50 anys que s’estaven desenvolupant. Només cal tenir en compte que al campus de la UAB existeix un Institut d’Investigació en Intel·ligència Artificial que es va fundar fa 30 anys. I també cal tenir en compte que ja en aquells temps molts es preguntaven sobre la pertinença d’anomenar «intel·ligents» aquests sistemes quan ens costa posar-nos d’acord sobre el que anomenem intel·ligència en els humans. ¡I no parlem de la dificultat de distingir entre natural i artificial!

Aquests darrers anys hi ha hagut un salt qualitatiu en aquests sistemes. Això es deu a la constant progressió en la capacitat dels ordinadors, ja que, d’una banda, s’han anat convertint en una eina universal i, de l’altra, han anat apareixent superordinadors cada cop més potents. Això implica més capacitat de tractament de dades, de treballar amb models matemàtics més complexos i d’emmagatzemar i tractar quantitats de dades d’un volum que era inimaginable fa pocs anys.

Només cal un exemple d’un dels darrers èxits d’aquestes tecnologies. La possibilitat de predir, a partir de la informació continguda en l’ADN, l’estructura en l’espai d’una proteïna, que és el que ens permet estudiar el seu funcionament, havia estat missió impossible durant dècades. Mitjançant un procediment de tractament de les més de 100.000 estructures conegudes actualment, ha estat possible dissenyar un programa anomenant AlphaFold que fa aquesta mena de prediccions de forma bastant acurada. Però fins i tot aquest cas no ha estat exempt de crítiques, sobretot per la seva manca de transparència sobre com funciona i perquè fa servir dades públiques. Totes aquestes aplicacions necessiten algoritmes per analitzar i predir algun tipus d’activitat i requereixen suficients dades de qualitat per poder contrastar de manera recurrent les prediccions que es fan. I, evidentment, es necessiten ordinadors amb capacitat suficient. I tot plegat té les seves limitacions.

Notícies relacionades

¿Acabarà prohibint-se ChatGPT?

Entre el ‘hype’ i la por: els interessos comercials marquen el frenesí de la intel·ligència artificial

Moltes de les aplicacions que han aparegut en el debat públic permeten reemplaçar algunes de les nostres activitats més rutinàries. Per exemple, una gran part del que escrivim té un component rutinari que les noves aplicacions poden fer igual que qualsevol de nosaltres. També hi ha robots que fan operacions puntuals en la construcció de màquines i ho fan igual o millor que nosaltres. Un altre exemple és l’anàlisi de dades mèdiques, sovint complexes, amb les quals podem entrenar un algoritme perquè proporcioni resultats més ben informats del que ho pot fer un humà. Tot això no exclou que perquè un escrit sigui interessant hagi de tenir una part creativa o que un metge pugui tenir en compte elements molt diversos en la complexitat de la malaltia d’un pacient. En tots aquests casos hem de controlar el que acabem fent i hem de tractar de no enganyar els ciutadans. Tant els que dissenyen aquests sistemes com els que els utilitzen i els que els toleren són persones i en són responsables.

Per tant, les eines del que ara anomenem IA són poderoses. Algunes poden permetre analitzar elements complexos del comportament dels individus per part d’empreses i governs de formes que no volem que es facin servir. I hi ha aplicacions que poden substituir les decisions de metges, de polítics o de militars i d’això pot dependre la vida de persones. Deixar en mans d’aquests sistemes la vida de la gent pot ser problemàtic. Si les fem servir per analitzar millor la realitat o per treure’ns de sobre feines repetitives, seran benvingudes. Poden ser útils, com ho han estat el treball dels metalls, que permeten produir arades o espases, o els avions, que poden transportar passatgers o bombes. El que no podem fer és deixar que s’introdueixin sense el nostre consentiment en la nostra vida personal o pública.