¿És de fiar l'algoritme?

El desenvolupament complet de la Intel·ligència Artificial (IA) podria portar al final de la raça humana», segons el físic Stephen Hawking. «Encara que ben intencionada, [la IA] podria tenir resultats més aviat dolents», segons el fundador de Paypal i Tesla, Elon Musk. «Estic entre els que estan preocupats», afirma el creador de Microsoft, Bill Gates. La IA està despertant pànic i eufòria. La consultora Accenture considera que podria aportar 750.000 milions d'euros a l'economia del Regne Unit. El pla estratègic sobre IA dels EUA traspua optimisme.

Les seves aplicacions entusiasmen: per exemple, parlar amb el mòbil o traduir raonablement bé textos en xinès o àrab. Però també espanten. La IA podria esborrar milions de llocs de treball, segons el Fòrum de Davos. Trump va ser recolzat per milers de chatbots: comptes de xarxes socials gestionats per programes informàtics. En el rerefons hi ha por que la IA es rebel·li.

Alts i baixos

«Tot això ja ho hem vist els que fa dècades que treballem en el sector», opina Ulises Cortés, investigador en IA de la Universitat Politècnica de Catalunya (UPC). «A vegades es parla de les quatre estacions de la IA», afirma Luc Steels, investigador ICREA de l'Institut de Biologia Evolutiva. L'expressió al·ludeix als alts i baixos d'entusiasme viscuts per la disciplina. Aquesta va néixer el 1956, quan els ordinadors van convertir un problema filosòfic mil·lenari -¿què és la intel·ligència?- en un assumpte d'enginyeria -¿com construir un sistema que pensi o actuï racionalment, o de forma indistingible a un humà?-. Tot es reduïa a algoritmes: seqüències d'operacions que l'ordinador ha de complir, com una recepta. Més enllà de la filosofia, els científics esperaven construir ordinadors que portessin a terme tasques amb habilitat comparable a la humana. Davant l'escassetat de resultats, en els anys 70, EUA va retallar els fons a aquesta investigació: va arribar l'«hivern de la IA». A principis dels anys 80, el Govern del Japó va donar inici a una nova primavera, que no obstant no va durar més d'una dècada. L'eufòria actual representaria la «cinquena estació» de la IA.

Declaració de Barcelona

«Ni tant, ni tan poc», responen els experts sobre les pors i entusiasmes que desperta. «La idea que la IA subjugui els humans ens genera sorpresa», afirma Steels, que aquesta setmana ha coordinat a Barcelona un congrés a CosmoCaixa en què es va presentar la Declaració de Barcelona sobre el correcte desenvolupament i ús de la IA a Europa (aquest cronista va ser convidat a moderar la presentació del document).

«Marvin Minsky [el pare de la IA] li va encarregar al seu doctorand que resolgués la visió per computadora [que un ordinador pugui reconèixer una imatge] durant un estiu. Estem el 2017 i el problema encara no està resolt». Així convida a la prudència David Casacuberta, investigador en Filosofia de la IA de la Universitat Autònoma de Barcelona.

No obstant, no falten notícies preocupants. Una asseguradora japonesa reemplaça els seus treballadors per IA. Tribunals dels EUA usen algoritmes per decidir l'alliberament de presos. El sistema de reconeixement de la parla Google Home respon afirmativament a la pregunta de si Obama preparava un cop d'Estat. ¿És raonable fiar a un algoritme assumptes com les assegurances, la llibertat o la informació política? ¿O la conducció d'un cotxe? ¿O l'atenció a la gent gran?

Aquestes preguntes han sortit del domini de la ciència-ficció per la combinació de dues tendències. En primer lloc, el creixement espectacular de la potència dels ordinadors. «Avui una xarxa neural s'entrena per reconèixer cares en dues hores. Fa 20 anys, hauria trigat 250.000 anys», exemplifica Cortés.

Domini de les dades

En segon lloc, hi ha l'augment exponencial de la quantitat de dades digitals. Al costat de la IA basada en el coneixement, ha guanyat importància la IA impulsada per les dades. Sota el primer paradigma, s'instrueix un programa pel qual si un objecte té forma rectangular, amb quatre cilindres a sota i de color marró, probablement és una taula. Sota el segon, el programa aprèn a reconèixer una taula a partir de comparar milions de fotos de taules.

Notícies relacionades

Treballadors, una espècie amenaçada

10 coses que cal saber de Sílvia Caballol, l’‘amor’ de l’(ex)bisbe de Solsona

Els algoritmes de deep learning de Google es basen en dades. Malgrat els seus resultats espectaculars, hi ha limitacions fonamentals, alerta Casacuberta. «Imaginem-nos un algoritme per reconèixer cares, entrenat amb una base de dades de mil cares, en la qual només hi ha una persona negra. Si apliquem aquest algoritme en un barri afroamericà, el programa dirà que tothom és la mateixa persona», explica.

Miquel Barceló, professor jubilat d'informàtica de la UPC, apunta un altre matís. «La IA que fa por és la IA forta: la idea de construir una intel·ligència comparable amb la humana. En realitat, ningú ho està fent. La investigació real es fa en IA feble: programes especialitzats que poden resoldre equacions, planificar rutes o traduir, però no fer totes aquestes coses alhora», explica. El 1986, Marvin Minsky va escriure que arribaria el temps d'unificar totes aquestes funcionalitats en una única intel·ligència com la humana. No obstant, la majoria dels experts creuen que encara falta molt per a aquest moment.