[Per Marc Argemí, periodista]
La Seguretat Social de Suècia va anunciar, fa uns mesos, que l’algoritme encarregat d’assignar subsidis a les 70.000 persones aturades del país cometia errades amb un marge d’error del 10 i el 15%. I no només això: també va reconèixer que no era clar l’origen de l’errada, ni quines decisions havien estat ben preses i quines eren errònies.
Per mitjà d’intel·ligència artificial i analítica de dades, l’administració de Dinamarca recull i creua informació sobre el benestar dels nens (com registres sanitaris o antecedents penals i fiscals dels pares) per prevenir possibles problemes socials.
En un magatzem de Baltimore, Amazon va acomiadar uns 300 empleats per haver reduït la productivitat, decisió que va prendre l’algoritme que mesurava la capacitat de cada treballador a donar sortida als paquets.
Són només alguns exemples de la tendència a oferir a la intel·ligència artificial una capacitat de decisió i un espai en les nostres vides cada vegada més ampli. Un algoritme serveix per fer tasques de les quals abans dèiem que eren mecàniques: ara són tecnològicament automatitzades.
Els algoritmes no són els robots que van imaginar els autors de ciència-ficció, i potser per això els hem adoptat sense gairebé adonar-nos-en. De mica en mica, però, els humans hem anat comprenent que on automatitzes un procés per mitjà d’un algoritme, potser generes un nou problema, que al seu torn necessitarà un sistema corrector.
Pensem, per exemple, en la mobilitat a la ciutat: quan tots els cotxes estiguin guiats automàticament, hi haurà embussos? Si no n’hi ha perquè l’algoritme ha programat bé els horaris de tota la ciutat, haurem de negociar les persones el nostre horari de feina amb l’empresa, que potser té també un algoritme que mesura els horaris en què som capaços de facturar més? I si tots canviem l’horari al mateix temps? El nostre propi cotxe es quedarà aturat a casa si detecta que no hi haurà aparcaments suficients en el nostre punt de destí? I així, en molts altres camps. Com resolem les disfuncions de funcionament dels algoritmes?
La nostra relació amb ells s’està tornant menys ingènua. Els algoritmes han perdut glamur i han vist, de fet, com ens fiquem, cada vegada més, en les seves vides. Els reptes de convivència que suposa tenir algoritmes per tot arreu són enormes, i això acaba de començar. Humans i algoritmes, en competició, cooperació o combat. O les tres coses, a estones. Es donen situacions ben curioses.
Dos exemples. El primer: un grapat de conductors d’Uber i Lyft (una mena de Cabify) que porten i recullen passatgers de l’aeroport Ronald Reagan de Washington desconnecten l’aplicació cada nit, durant un o dos minuts, perquè l’algoritme que calcula el preu per cursa pensi que hi ha poca oferta de cotxes i apugi els preus. Les apagades es fan poc abans que aterrin els avions: quan els passatgers arriben a la zona de taxis ja tornen a estar operatius. La broma costa als clients fins a 19 dòlars extres.
El segon: Google Duplex és un xatbot –intel·ligència artificial– capaç de trucar a un restaurant i encarregar una taula interactuant amb naturalitat amb qui despenja el telèfon. El New York Times explicava aquesta setmana que la tecnologia és potser massa bona… com quan la companyia efectivament posa en el lloc dels xatbots persones humanes reals. El cas es va detectar fa poc en una trucada a un restaurant tailandès feta per un xatbot fake amb un fort accent irlandès. Qui va despenjar el telèfon no va ser prou ingenu per empassar-s’ho. I el xatbot no va poder aguantar-se el riure.
