19/11/2025 | 06:00
Les xarxes socials i la intel·ligència artificial (IA) no només influeixen en la política o la cultura: també poden modelar els conflictes. Amplifiquen discursos d’odi, polaritzen el debat públic i erosionen la confiança col·lectiva. Però cal recordar que no són forces naturals incontrolables. Són productes empresarials amb models de negoci basats a captar l’atenció i, per tant, també poden ser regulats, redissenyats i utilitzats per fomentar la cooperació i la pau.
Aquesta és la tesi central de Pau en l’era digital, el nou monogràfic de l’Institut Català Internacional per la Pau (ICIP). A partir de les aportacions de diverses expertes, la revista ofereix una mirada crítica sobre els riscos i les oportunitats que obren les tecnologies digitals: com els algoritmes poden desfer o reforçar fractures socials, com la memòria digital pot ajudar a reconstruir societats després d’un conflicte, o com la mediació en línia pot esdevenir una eina clau per evitar la violència.
L’edició d’aquest monogràfic s’emmarca en la conferència Build Peace 2025, que se celebrarà els dies 21, 22 i 23 de novembre al centre La CIBA, de Santa Coloma de Gramenet, organitzada per Build Up i l’ICIP. La conferència reunirà persones, entitats i institucions que promouen la construcció de pau des de l’espai digital, i en la qual participaran diverses autores del mateix monogràfic. CRÍTIC destaca algunes de les idees més rellevants de la revista:
L’entorn digital: un espai de violència?
Les xarxes socials s’han convertit en mirall de les tensions al món real. Les campanyes digitals ja no es limiten al ciberespai, sinó que tenen conseqüències tangibles. “Els estudis empírics realitzats en nombroses zones de conflicte revelen un patró recurrent: la desinformació i el discurs d’odi apareixen en els moments de més tensió política i esclaten quan els conflictes s’intensifiquen i deriven en violència. És quan les xarxes socials es converteixen en una eina essencial per marcar les narratives“, explica Ahmad Qadi, director de supervisió i documentació de 7amleh i autor de l’article “Desinformació, manipulació i discurs de l’odi en els conflictes”. L’investigador assegura que “al centre d’aquest panorama digital hi ha la polarització, un fenomen en què les societats estan fracturades en bàndols oposats amb visions del món rígides”.
L’espai digital té un paper significatiu en l’escalada de la violència, la divisió i la polarització
Per al director del centre àrab de social media, a les xarxes s’amplifiquen la desinformació i els discursos d’odi, que sovint legitimen les elits polítiques i les estructures de poder. “Se solen simplificar realitats complexes en oposicions binàries entre el bé i el mal, i els algoritmes de les xarxes socials reforcen aquest pensament reduccionista”.
L’espai digital té un paper significatiu en l’escalada de la violència, la divisió i la polarització; i les parts en conflicte “exploten activament les plataformes digitals per amplificar les seves narratives, i sovint recorren a la desinformació i al discurs de l’odi com a eines estratègiques per deslegitimar el bàndol contrari”. Per Qadi, aquest cicle de reforç intensifica la polarització, aprofundeix en les fractures socials i incita la violència offline.
La violència en l’espai digital també té un impacte directe en els processos de mediació. Les xarxes socials i la IA han canviat el paper de la persona mediadora tradicional, i, actualment, la mediació ja no es limita en una negociació física. “Ara els mediadors estan sotmesos a un autèntic bombardeig d’informació i en els processos en què participen s’enfronten a l’amenaça constant de campanyes en línia de desinformació i informació errònia dissenyades per atiar l’odi, difondre falsedats incendiàries i erosionar la confiança de la societat en un possible acord”, assegura Sanjana Hattotuwa, doctor en Polítiques i Xarxes Socials a la Universitat d’Otago, a l’article “La mediació en l’era dels algoritmes: riscos i oportunitats”.
Cal que les plataformes digitals es replantegin, perquè no alimentin els cicles de violència dels conflictes
Tant Qadi com Hattotuwa subratllen la necessitat urgent que les plataformes es replantegin, per tal que les infraestructures digitals no alimentin els cicles de violència dels conflictes. És a dir, que els algoritmes prioritzin el diàleg constructiu per sobre de les mètriques d’engagement, amb mecanismes que frenin la propagació de comentaris incendiaris i falsos. “Per això, cal abandonar la lògica extractiva, les plataformes rapaces i els esforços mercenaris de Silicon Valley i crear espais en línia dissenyats per promoure el diàleg, la confidencialitat i el consens”, afirma Hattotuwa.
Els espais digitals també poden construir pau?
El doctor en Polítiques i Xarxes Socials a la Universitat d’Otago considera que la mediació en línia té un potencial enorme per ajudar a resoldre conflictes i ofereix oportunitats sense precedents per al diàleg.
Per la seva banda, Luke Thorburn, investigador d’AI & Democracy Foundation i autor d’”Algoritmes pont: eines per a la despolarització”, proposa dissenyar algoritmes de classificació que ajudin a crear punts en comú. El concepte algoritmes de classificació es tradueix en els programes informàtics que decideixen quins continguts veiem primer en qualsevol espai digital. Donat que els algoritmes actuals tendeixen a donar una visibilitat desproporcionada a les veus més extremes, els algoritmes pont formarien part d’“un ecosistema emergent d’eines deliberatives en línia que poden facilitar el diàleg en contextos polaritzats”. Thorburn assegura que ajudaria a crear entesa mútua i confiança entre les parts enfrontades.
Els algoritmes actuals tendeixen a donar una visibilitat desproporcionada a les veus més extremes
Un altre exemple de com la tecnologia pot estar al servei de la construcció de pau, a través de la recuperació de la memòria, és l’experiència del projecte Sudan Memory (Memòria del Sudan). A l’article “Sudan Memory: Documentar la cultura abans, durant i després del conflicte”, Wahbi Abdelrahman explica que l’any 2013 es va posar en marxa el projecte amb l’objectiu de digitalitzar el patrimoni cultural sudanès en risc de deteriorament i destrucció, a causa del canvi climàtic o de possibles conflictes. El Sudan té un dels patrimonis més rics i diversos del món, i en poc més d’una dècada, des del projecte ja han digitalitzat més de 400.000 objectes del patrimoni. “La intenció és retornar el repositori digital a una institució sudanesa i conservar-ne una altra versió com a còpia en algun lloc fora del país. En el període immediatament posterior al conflicte, la col·lecció digital del projecte serà un recurs important per recordar i revitalitzar la identitat compartida i diversa del Sudan. Intentar esborrar qualsevol registre d’aquesta coexistència cultural és una arma de guerra provada a tot el món.”
Riscos i oportunitats en l’era actual
Kenya és un dels països més actius del món a la xarxa: es troba entre els cinc primers països del món pel que fa al nombre d’hores que la ciutadania passa en línia, assenyala Nerima Wako a l’article “Democràcia digital i ciberactivisme a l’Àfrica oriental: el cas de Siasa Place”.
Wako és la directora executiva de Siasa Place, una organització cívica tecnològica dirigida per joves amb seu a Nairobi, capital de Kenya. “Els i les joves han creat poderoses comunitats en línia que impulsen la transparència, la rendició de comptes i la justícia”, escriu. Siasa Place desenvolupa marcs institucionals, ofereix educació cívica i forma la propera generació de líders sobre com utilitzar les eines tecnològiques per al compromís polític. Entre altres coses, donen suport a campanyes que exigeixen l’alliberament de presos polítics en països com Moçambic, o treballen per fer visible la repressió al Senegal. A escala local, les mateixes eines digitals permeten que els i les joves responguin ràpidament i es mobilitzin contra la brutalitat policial o la corrupció, per exemple. Per Wako, “una societat digitalment pacífica és aquella en què els activistes no necessiten telèfons d’un sol ús; on les lleis protegeixen la llibertat d’expressió, no la criminalitzen; on podem discrepar en veu alta, amb passió i seguretat”.
“La IA no és una força única i determinista; les seves repercussions depenen de les finalitats a què es destina”, diu Evelyne Tauchnitz
En la mateixa línia, Stephanie Williams, exassessora especial del secretari general de l’ONU per a Líbia, explica en una entrevista al mateix monogràfic com la propagació de desinformació i de discursos d’odi va afectar les negociacions de pau al país entre els anys 2008 i 2012. “Després del 2011, Líbia va viure dues guerres civils, l’una el 2014 i l’altra el 2019-2020. En aquesta última, sovint semblava que el conflicte es manifestava tant a internet com al camp de batalla físic, amb una retòrica polaritzant i discurs d’odi i “alteritat”. Amb això, la missió de l’ONU va respondre a la violència digital amb col·laboració directa amb les plataformes de xarxes socials i la celebració de diàlegs en línia.
Tot i les oportunitats de cohesió social i d’organització en l’espai digital —necessàries d’assenyalar—, la incursió de la IA és cada vegada més present en el dia a dia de la base social, i cal no perdre de vista que sovint obté coneixements a partir de dades esbiaixades o incompletes. “Quan les injustícies sistèmiques es codifiquen en lògiques algorítmiques, la injustícia es naturalitza i es fa invisible”, assenyala Evelyne Tauchnitz a “Riscos de la IA per a una pau sostenible”. Per exemple: els sistemes policials predictius poden perpetuar prejudicis històrics basats en l’origen ètnic o socioeconòmic.
Tot i això, la demonització de la intel·ligència artificial tampoc no fa justícia. “En conjunt, la IA reconfigura els fluxos de recursos de manera que pot millorar l’accés a la informació o a determinats serveis”, subratlla Tauchnitz. “La IA no és una força única i determinista. Les seves repercussions depenen de les finalitats a què es destina, dels valors integrats en el seu disseny i dels contextos en què s’implementa”, reflexiona. Per a l’autora, “si alineem l’ús de la IA amb els principis que protegeixen la dignitat humana i la llibertat, podem ajudar a transformar les xarxes per acostar-les a la confiança en lloc de la desconfiança, i a la cooperació en lloc de la polarització”.
Tauchnitz emmarca aquesta tesi en una concepció de pau que va més enllà de la mera absència de guerra o violència manifesta, i que preveu l’absència de violències estructurals i culturals, com defensa l’ICIP. “La pau no és una cosa que ens ve donada, sinó (igual que la violència) una propietat que emergeix de les condicions que defineixen les característiques del sistema”.
La intel·ligència artificial ha arribat per fer-se un lloc a la quotidianitat tal com ho van fer les xarxes socials i l’espai digital en la seva globalitat. Per això, el monogràfic que acaba de publicar l’ICIP defensa que abordar tots aquests reptes no és només una qüestió tècnica reservada a aquelles persones que saben com desenvolupar campanyes a les xarxes per contrarestar discursos d’odi o utilitzar la IA, sinó que és una qüestió moral i política que concerneix a qualsevol persona que treballi per la pau a l’era digital.
