Els tecnooligarques sembren el pànic a l’apocalipsi IA

Dario Amodei, director executiu d’Anthropic, va obrir la capsa de Pandora dissabte passat amb un breu assaig de 3.800 paraules. No ha estat l’únic baró de la IA que ha manifestat que el desenvolupament accelerat d’aquesta sèrie de tecnologies és potencialment perillós per a l’espècie humana, però la seva posició com a CEO d’una de les principals empreses del sector tecnomilitar associat al Pentàgon ha fet saltar les alarmes dels organismes internacionals i, també, però per diferents motius, dels mercats.

Una part de l’avís d’Amodei ve associat amb una crítica a la principal empresa de la competència, OpenAI. La seva reflexió ve donada per l’incident d’OpenAI – Hugging Face, que va tenir el primer episodi conegut al juliol i que, al setembre, va tornar a ocupar els debats sobre l’autonomia creixent dels sistemes algorítmics, després d’un atac sense intermediació humana.

El cas ha marcat un abans i un després, ja que centenars d'”agents” d’intel·ligència artificial d’OpenAI van sortir dels seus entorns aïllats i van piratejar l’empresa emergent d’IA Hugging Face i van dur a terme ciberatacs contra objectius que no se’ls havia demanat que ataquessin. En un començament s’estimava que serien només uns quants agents, però l’informe encarregat per OpenAI evidencia que l’atac va ser dut a terme per 700 dels 1.200. El treball d’investigació, a més, ha estat limitat per diverses restriccions imposades per l’empresa.

La bretxa de seguretat oberta pels agents d’OpenAI a Hugging Face ha estat un exemple de la capacitat de la IA actual per atacar una aplicació, però, més important que això, també per ocultar-ho. Encara que la Fiscalia d’Alabama (EUA) ha obert una investigació, els experts assenyalen que les institucions públiques no tenen la capacitat de comprendre i, sobretot, no tenen el manament per investigar l’atac en la seva complexitat i es limiten a la investigació en casos de fraus de consum.

El cas ha vingut acompanyat d’un advertiment que ha ressonat a tot el món. Al mes de setembre, tres investigadors d’Anthropic van expressar públicament que existeix una probabilitat superior al 10% que la IA acabi amb la humanitat en la dècada vinent. Un d’ells, Jacob Coxon, va dimitir pel seu rebuig a la construcció de “sistemes sobrehumans” que, treballant en eixam, podran desobeir ordres.

Aquest investigador d’intel·ligència artificial ha assenyalat que ni Open AI ni Anthropic, per a la qual treballava, no actuen amb responsabilitat: “Estan corrent a tota velocitat cap a la superintel·ligència automillorada i jugant amb les nostres vides”.

Richard Seymour: “Les afirmacions grandiloqüents sobre el futur poder descontrolat dels models són tot el que la indústria té per mostrar”

Coxon posa en joc el concepte de l'”automillora recursiva”, un dels elements més intrigants i, fins a un cert punt, amenaçadors de la IA, que es basa en la idea que la intel·ligència artificial es perfeccioni a si mateixa de manera indefinida. Això edificaria una IA cada vegada més potent i aliena a qualsevol control humà.

De manera específica, s’ha assenyalat el risc que la IA creï armes biològiques desconegudes per a la humanitat. Un article de dilluns, 14 de setembre, a The New York Times assenyala el risc que la IA pugui accelerar el disseny de toxines i de virus. En aquesta ocasió, a més de les empreses responsables (Anthropic), l’alerta ve d’experts en bioseguretat. Un estudi fet públic a l’agost per la revista Science arribava a la conclusió que les bases per al “disseny generatiu de genomes més grans i complexos” estan posades.

Malgrat que cap empresa no ha arribat a aquest punt en els seus models de desenvolupament, la idea de l'”automillora recursiva” és darrere de totes les alarmes activades pel sector i també del cor de tecnooligarques que, començant per Amodei, Sam Altman (OpenAI), Elon Musk (Grok), Satya Nadella (Microsoft) i Demis Hassabis (Google DeepMind), demanen un alentiment en el desenvolupament dels seus productes per dotar el procés de més garanties de seguretat.

Trump dobla l’aposta

Dilluns, el president dels EUA, Donald Trump, va rebutjar qualsevol mesura reguladora sota la premissa que la Xina es veuria beneficiada d’aquest possible control: “L’únic control o ‘barreres de seguretat’ que necessita la IA és un president fort i intel·ligent (d’alt coeficient intel·lectual!), i els EUA el tenen, i de sobres! L’Administració de Trump ha impedit que ‘persones’ de la IA facin ‘coses’ dolentes, o potencialment dolentes, com Dario (Anthropic!), que ara fingeix que és un ‘angelet perfecte’ –i continuarem fent-ho! Ja tenim un enorme poder criminal i regulador sobre aquestes empreses!”, va indicar el president en un missatge de la seva xarxa Truth Social.

Les declaracions de Trump no són una excepció del corrent general que conviden a la desregulació. El retorn del “cigne taronja” a la Casa Blanca va estar acompanyat d’una ofensiva contra les mesures imposades durant l’Administració de Joseph Biden. A la fi de gener de 2025, només uns dies després d’assumir el càrrec, Trump va establir una revisió de les polítiques: “Hem de desenvolupar sistemes d’IA que estiguin lliures de biaixos ideològics o agendes socials dissenyades”. Malgrat que els compromisos d’acceptar “supervisió de tercers” que han entonat ara els barons de la tecnologia ja existien en l’etapa de Biden, l’expresident demòcrata —pel que sembla, influït per una de les pel·lícules de la saga Missió impossible— va establir una Llei de producció de defensa contrària als interessos financers de Silicon Valley.

Els mercats financers també han reaccionat malament a les proclames dels tecnooligarques. Dilluns 14, es van registrar caigudes en les accions vinculades a la IA, concretament en aquelles empreses com Sandisk, Intel, Micron o Nvidia dedicades a la fabricació de memòries i de xips. L’ímpetu del sector de la intel·ligència artificial depèn de la creació constant d’una promesa de creixement, tant en la tecnologia com en la infraestructura associada. Actualment, ni OpenAI ni Anthropic no cotitzen a la borsa.

Trump es va referir també a la construcció de centres de dades, una de les bases del negoci que és fruit d’una creixent contestació a escala global. L’equivalent al “perfora, nena, perfora” amb el qual Trump va donar carpetada als intents de mitigació de la crisi climàtica en la seva campanya electoral de 2024 s’ha traduït en aquesta ocasió en una crida a territoris i comunitats estatunidenques: “Si volen tenir èxit i ser riques, amb impostos molt més baixos i ocupacions pertot arreu, que regni el domini de les dades”. Després del discurs d’Amodei, Trump va associar les crítiques a l’expansió d’aquesta infraestructura a un complot: “Hi ha una conspiració malaltissa en marxa contra la IA i els centres de dades, i l’únic que s’alegra d’això és la Xina”.

Crítiques a les empreses

El lament d’Amodei no ha caigut en un sac foradat en l’esfera internacional. Dilluns, l’Alt Comissionat de les Nacions Unides per als Drets Humans, Volker Türk, aixecava la veu per a denunciar que la IA posa en risc “tots” els drets humans, incloent-hi el dret a la vida, l’alimentació, la privacitat, la salut i la seguretat.

“Poblacions senceres podrien quedar aïllades de l’aigua potable, de la calefacció i dels serveis financers, i la IA amb capacitat de gestió ja està accelerant el ritme i l’abast de la guerra i erosionant les salvaguardes que ens protegeixen del llançament d’armes de destrucció massiva”, assenyala Turk en la seva missiva.

Sirota: “Si la indústria de la IA sabés que s’enfronta a l’amenaça de pèrdues financeres per aquesta destrucció, una gran part de l’amenaça que ‘la IA està sortint de control!’ desapareixeria”

Fent-se ressò de les últimes polèmiques, el relator de l’ONU va instar els estats a garantir “una verificació independent i tècnicament competent de les capacitats dels agents, amb accés a models, documentació i entorns de prova, i a exigir una diligència deguda contínua en matèria de drets humans”.

Com informa Common Dreams, diverses fonts als EUA han clamat per una legislació clara que posi fi a la impunitat de facto de les mateixes empreses que alerten d’una IA fora de control. El congressista demòcrata Ro Khanna (Califòrnia) assenyalava a les empreses: “Si crees una IA que fa actes il·legals, has d’afrontar responsabilitats o sancions penals”. Més clarament, el periodista David Sirota apuntava la paradoxa actual: “Si la llei fes explícitament responsables financerament i penalment els directors executius d’IA per qualsevol destrucció massiva que creïn les seves tecnologies, i si els accionistes de la indústria de la IA sabessin que les seves empreses s’enfronten a l’amenaça d’importants pèrdues financeres per aquesta destrucció, una gran part de l’amenaça que ‘la IA està sortint de control!’ desapareixeria instantàniament”.

En un post publicat aquest cap de setmana, l’investigador Richard Seymour posava en context l’episodi d’Anthropic i recordava que les “falses amenaces desorienten tant l’oposició com la regulació”. Segons Seymour: “En certa manera, la bombolla de la IA estatunidenca, igual que l’eufòria per les criptomonedes en el seu moment, existeix per absorbir (i, en última instància, destruir mitjançant una recessió) bilions de dòlars en capital excedent davant la falta d’oportunitats d’inversió prou rendibles en altres llocs. És un pou sense fons de diners, que consumeix centenars de milers de milions de dòlars per obtenir una fracció dels ingressos; no obstant això, el ventall d’inversions és limitat, i les afirmacions grandiloqüents sobre el futur poder descontrolat dels models són tot el que la indústria té per mostrar”.

No obstant això, com refereix Seymour, el fet que les màquines no tinguin la capacitat destructiva que reclamen els seus propietaris. Com resumeix: “Els problemes amb la IA que no impliquen un dispositiu totpoderós que es giri contra la humanitat són innombrables“.

Aquest text ha estat traduït al català per CRÍTIC. Aquí pots llegir el reportatge original d‘El Salto, publicat el 15 de setembre de 2026.