21/12/2023 | 06:00
El gat robòtic Doraemon existeix des del 1969 i va protagonitzar fins a 1.787 episodis televisius. Va arribar a la pantalla pública catalana al mes de febrer del 1994 i, encara que no ho sembli a primera vista, les seves van ser les primeres lliçons sobre intel·ligència artificial que van rebre molts infants crescuts als anys noranta i dos mil. Els capítols de Doraemon mostren la doble cara dels algoritmes i sistemes intel·ligents: mentre que el gat còsmic ofereix solucions ràpides i eficients per als problemes del jove Nobita Nobi, no sempre s’acaben resolent de la forma esperada perquè cap dels dos no sospesa els perills que els poden provocar ni hi apliquen una mirada crítica. Aquest biaix reflexiu és també present a l’exposició “IA: Intel·ligència Artificial“, del Centre de Cultura Contemporània de Barcelona (CCCB), que es podrà veure durant el primer trimestre del 2024 i que aborda extensament els inicis d’aquesta tecnologia, així com les oportunitats i els reptes de futur que presenta el seu auge.
Discriminació, intimitat i guerres: l’aresta no resolta de la IA
Comissariada per Lluís Nacenta, la mostra posa de manifest “l’indubtable perill potencial” d’aquests sistemes que retenen grans quantitats de dades per posar-les en relació i extreure’n conclusions. Un dels perills mencionats és la perpetuació de discriminacions i biaixos sexistes i racistes en aquestes dades, que poden acabar dissenyant les tecnologies d’IA. Quan utilitzem telèfons mòbils, sensors o ordinadors, estem donant dades sense ser-ne conscients i aquestes acaben perpetuant-se en la IA, que és un reflex de nosaltres. Així, alguns dels invents que Doraemon oferia al seu amic no estaven dissenyats des d’una perspectiva crítica ni lliure de discriminacions, encara que vinguessin del futur.
La crítica sobre masclisme i racisme en la IA la visibilitza la informàtica i activista digital ghanesa-estatunidenca Joy Buolamwini. En l’obra AI, Ain’t I a Woman, l’artista evidencia com els sistemes de reconeixement facial cataloguen persones racialitzades com la presentadora Oprah Winfrey o la tenista Serena Williams com a homes per manca de referències femenines racialitzades, i a Gender Shades denuncia que molts d’aquests sistemes només reconeixen els rostres de les persones racialitzades quan es posen una mascareta blanca. A l’exposició, també es projecta My World, un audiovisual de Carme Puche que manifesta com els algoritmes pressuposen homes blancs de mitjana edat com a subjectes predeterminats i invisibilitzen les dones, racialitzades i grans.
Entre altres reptes que assenyala Nacenta al llarg de la mostra, es troben debats com la manca d’intimitat i de privacitat de la IA, que ressegueix cadascun dels nostres moviments, fins i tot en l’àmbit sexoafectiu, o la manca d’ètica i de posicionament crític. El mateix Doraemon advertia a Nobita que, per utilitzar els seus invents, era necessària una mirada prudent i d’acompanyament que sovint l’infant no aplicava: “Quan agafes un d’aquests invents pel teu compte, sempre acaba malament”, li deia al capítol ”L’antena de la pau”.
A la mostra del CCCB es desenvolupen els perills de la IA en casos extrems com els conflictes bèl·lics a través de la campanya “Stop Killer Robots” l’any 2015. Segons recull el CCCB, aquesta campanya va reunir milers d’experts del sector, que van signar una carta en què defensaven que “hi hagués un control humà sobre l’ús de la força en conflictes armats arreu del món”. Mirant enrere en la història, a pocs metres de la carta contra les armes autònomes, es troba una rèplica de la màquina criptogràfica Enigma, un dispositiu intel·ligent dels anys quaranta que van utilitzar els alemanys durant la Segona Guerra Mundial per codificar i protegir les seves comunicacions. Cada vegada que s’escrivia una lletra, la màquina la canviava per una altra, i només es podia desxifrar el missatge a través d’una clau que era diferent en cada enviament. Com a contraofensiva, els britànics van desenvolupar Bombe, un sistema per descodificar els missatges dels alemanys i guanyar avantatge en les posicions i estratègies de l’enemic.
Avenços científics: coneixement acumulatiu
Un aprenentatge encoratjador que dona Doraemon sobre la intel·ligència artificial és la capacitat d’imaginar un món millor, amb solucions que ens farien molt més fàcil el dia a dia. I això també hi és a l’exposició del CCCB, ja que aborda a través d’un extens catàleg les oportunitats de present i de futur que ofereix la intel·ligència artificial. Un d’aquests és l’audiovisual en què s’expliquen els projectes d’investigació científica que estan utilitzant el supercomputador MareNostrum 5, que pot efectuar 314.000 bilions d’operacions per segon. Les aplicacions s’estan fent en camps com la llengua de signes, les tecnologies del llenguatge, la composició atmosfèrica o la medicina personalitzada, entre d’altres. Per exemple, en el camp de la medicina, la supercomputadora està ajudant a tractar el pacient en lloc de la malaltia, ja que s’està estudiant com s’activen els gens en cada persona i en cada cèl·lula. La supercomputadora és necessària per processar tantes dades, diu la investigadora del projecte. En l’obra De micro a macro, de Nexus Studios, s’explica que “la valuosa anàlisi de la IA fomenta els sistemes crítics que ens mantenen informats, actualitzats, al dia, puntuals i segurs”, i a Seeing AI, de Microsoft Corporation, s’exposa una aplicació tan beneficiosa de la IA com la descripció de persones, textos i objectes per a persones cegues al telèfon mòbil.
Les nombroses funcions que pot tenir aquesta tecnologia s’acostumen a conjugar en clau futura, com els invents de Doraemon, però tots els descobriments i totes les potencialitats de la intel·ligència artificial actual es fonamenten en anys i anys de ciència. Abans del gat còsmic n’hi va haver molts d’altres que van acumular coneixement. Per posar de manifest la importància de la història en l’estat actual dels sistemes intel·ligents, l’exposició al CCCB en ressegueix les fites més destacades a través d’una cronologia digital interactiva. S’hi esmenten moments destacats de la informàtica i de la ciència, tant en l’àmbit científic com a través d’obres d’art que han contribuït a generar discurs al voltant d’aquesta temàtica i l’han popularitzat. La primera a aparèixer a la cronologia és Mary Shelley, escriptora de la novel·la Frankenstein, sobre un ésser humà artificial, i la segueixen Charles Babbage, inventor del primer ordinador digital automàtic, o Ada Lovelace, considerada la primera programadora informàtica. Tampoc no hi falten referents culturals com la saga Star Wars, on espècies alienígenes conviuen amb droids, o Arnold Schwarzenegger donant vida al cíborg assassí Terminator. Tots ells són exemples de l’arrelament dels robots i dels sistemes intel·ligents en la cultura audiovisual que consumim i en l’imaginari compartit sobre IA.
De la mateixa manera que la germana robot de Doraemon, Dorami, no té gaire protagonisme en la sèrie, les dones científiques també han quedat eclipsades de la història pels seus companys de professió. En clau femenina, però, a la mostra del CCCB es visibilitzen dones que van tenir un paper decisiu com la matemàtica Joan Clarke, membre del grup de dones The Girls, encarregades de tasques de desencriptació; Grace Hooper, coneguda per haver dissenyat el primer ordinador electrònic comercialitzat, o Annie Easley, una de les primeres afroamericanes a treballar a la National Aeronautics and Space Administration (NASA). En els plafons de la mostra s’hi poden llegir reivindicacions al voltant de la manca de visibilitat de les dones en el desenvolupament de la IA: “Cal abordar aquestes qüestions per afavorir la inclusió, generar debat, animar més dones a escriure algoritmes i desenvolupar productes i adoptar una perspectiva progressista sobre la IA a la societat”.
Per tal d’adobar tots els debats sobre la IA, en el marc de l’exposició també es duen a terme activitats per aprofundir sobre la matèria. Del desembre al febrer es faran xerrades sobre aspectes com el futur de la medicina arran de la supercomputació o l’impacte ambiental de la IA pel que fa a materials i quantitat d’energia i d’aigua, entre d’altres, així com intervencions artístiques com la creació d’un bot de conversa amb Citlali Hernández i Núria Nia o un assaig de Raül Refree amb un sistema d’intel·ligència artificial.
