"La intel·ligència artificial podria matar-nos a tots abans de 2030", deia fa un mes Jacob Coxon, exinvestigador de l’empresa d’IA Anthropic. Aquestes declaracions van alertar els mitjans, el públic i els polítics, i han generat un panorama marcat per milers de teories; omplint els titulars d’advertències i possibilitats cada cop més apocalíptiques.
Al mateix temps, però, la IA ja arrossega un llarg llistat de preocupacions que formen part del nostre dia a dia. Una nova tecnologia que sovint se’ns presenta en extrems: com un messies capaç de salvar-nos i transformar-ho tot, o com una mena de força apocalíptica que ens aboca al desastre, sense gaire espai per al punt intermedi. Però més enllà d’aquestes visions, l'impacte de la IA ja és tangible avui dia: grans alteracions al món laboral, la dubtosa moral dels seus impulsors, el consum d'energia i aigua dels gegantins centres de dades, la manca de transparència de les grans empreses tecnològiques...
En aquest context, parlem amb Josep Àngel Guimerà, professor a la Facultat de Comunicació de la Universitat Autònoma de Barcelona, investigador en l’àmbit de les polítiques de comunicació i les tecnologies digitals i director de l'Institut de la Comunicació (InCom-UAB). Amb ell tractem en profunditat un dels debats que vertebren ja, i que encara més ho faran en un futur, una bona part de les nostres vides.
En els últims mesos hem vist declaracions molt alarmants sobre els riscos de la IA, com les de Jacob Coxon. Fins a quin punt creus que aquestes advertències estan justificades?
Crec que aquestes declaracions s’han de situar dins del debat actual sobre la intel·ligència artificial. Hi ha diferents posicions: els acceleracionistes, que defensen desenvolupar i implantar cada vegada més la IA; els apocalíptics, que alerten dels seus possibles perills; i els escèptics, que intenten mantenir una posició més prudent. Jo em situaria en aquest últim grup. No crec que la IA sigui ni la solució a tots els nostres problemes ni que necessàriament acabi amb la humanitat.
Ara bé, és important ser prudents. També hem de tenir en compte d’on provenen aquestes declaracions, perquè sovint les fan persones vinculades a empreses amb interessos econòmics molt importants. Per tant, les seves advertències poden ser significatives, però s’han d’entendre dins d’una batalla empresarial, política i econòmica.
Coxon planteja fins i tot la possibilitat que una IA pugui provocar la desaparició de la humanitat. És un escenari que ens hauríem de prendre seriosament?
La imatge d’una IA tipus Terminator és probablement la que ens ve més fàcilment al cap, però els riscos podrien ser molt diferents. Una IA podria arribar a actuar sobre infraestructures importants, com hospitals, transports o xarxes energètiques, i provocar conseqüències greus si no hi hagués prou supervisió. Tot i això, crec que és important diferenciar les hipòtesis extremes dels problemes que ja existeixen. Hem de vigilar i controlar aquestes eines, però sense convertir qualsevol error en una prova que la IA acabarà amb nosaltres.
Quins són, doncs, els riscos de la IA que consideres més reals actualment?
Hi ha problemes molt més immediats. Un és l’impacte mediambiental, pel gran consum d’electricitat i d’aigua dels centres de dades. També hi ha les condicions laborals de moltes persones que entrenen i supervisen aquests sistemes, sovint amb salaris baixos i revisant continguts molt desagradables.
A això s’hi afegeixen els conflictes relacionats amb els drets d’autor i els efectes sobre el mercat laboral. En sectors com la traducció, el disseny gràfic o altres professions creatives, aquestes eines poden reduir la quantitat de feina disponible. Són conseqüències que ja podem observar i que, al meu entendre, haurien de rebre més atenció.
Fins a quin punt la competició entre les grans empreses tecnològiques fa que la seguretat passi a un segon pla?
És un problema important. Les empreses competeixen per desenvolupar models cada vegada més potents i hi ha enormes quantitats de diners en joc. El problema és que, si una empresa afirma que està desenvolupant una eina molt poderosa, però que no pot controlar completament, sembla raonable preguntar-se per què aquesta eina arriba al mercat.
En altres sectors exigiríem proves i controls abans de comercialitzar productes potencialment perillosos. Amb la IA hauríem de plantejar mecanismes semblants. Qui desenvolupa una eina també ha d’assumir una part important de la responsabilitat pels seus possibles efectes.
Creus que les empreses tecnològiques són prou transparents sobre els riscos dels sistemes que desenvolupen?
Jo soc bastant desconfiat amb aquest sector. No crec que sigui suficient que les empreses diguin que hem de confiar en elles. Precisament per això existeixen les regulacions: perquè les empreses tenen interessos econòmics i no sempre coincideixen amb els interessos de tota la societat.
A més, la indústria de la IA està envoltada d’una enorme inversió. Els centres de dades i la infraestructura necessària requereixen quantitats de diners extraordinàries, i les empreses necessiten obtenir grans beneficis per justificar aquestes inversions. Això pot contribuir a accelerar la cursa tecnològica.
La legislació actual pot seguir el ritme d’una tecnologia que avança tan de pressa?
Sí, crec que es pot regular. La tecnologia no és una força inevitable davant la qual no puguem fer res. Els governs poden establir què està permès, què no i quines condicions s’han de complir abans de posar un sistema al mercat. Una possibilitat seria establir mecanismes de validació previs, semblants als que existeixen amb determinats medicaments: provar els sistemes, estudiar-ne els efectes i comprovar que compleixen uns requisits abans de comercialitzar-los. El problema principal no és si és possible regular la IA, sinó si existeix prou voluntat política per fer-ho.
Creus que els mitjans de comunicació estan ajudant a entendre què està passant realment amb la IA?
Crec que sovint no prou. El periodisme tendeix a buscar titulars espectaculars: un dia sembla que la IA solucionarà grans problemes de la humanitat i l’endemà que està a punt d’acabar amb el món.
Aquesta successió de missatges contradictoris pot generar una percepció distorsionada. La realitat és molt més complexa. Hi ha aplicacions positives, però també riscos i problemes molt concrets. Necessitem informació que expliqui aquestes qüestions amb més context i menys espectacularitat.
Què hauria de fer la societat per afrontar el futur de la IA?
Crec que el moment actual és més polític que tècnic. La qüestió no és només què pot arribar a fer una màquina, sinó que decidim nosaltres que faci. No podem deixar que les empreses tecnològiques siguin les úniques que decideixin quin futur volem construir. Cal establir límits, mecanismes de control, transparència i responsabilitats. La IA pot generar riquesa i tenir aplicacions útils, però la distribució d'aquesta riquesa i quins usos permetem dependrà de decisions polítiques i socials.
En definitiva, no es tracta de confiar cegament en la tecnologia ni de pensar que ens portarà inevitablement al desastre. Es tracta d’entendre els seus riscos, controlar-los i decidir democràticament com volem utilitzar-la.
