La nova era de les ‘fake news’: les ‘deep fakes’

Aquests darrers dies s’ha viralitzat a les xarxes socials un vídeo de Donald Trump adreçant-se als belgues explicant perquè els Estats Units s’han retirat de l’Acord de París. La font original, el partit socialista flamenc SP.A (Socialistische Partij Anders), i a Facebook ja s’ha reproduït més de 20.000 vegades. El vídeo està en anglès amb subtítols en flamenc i Trump hi diu “Com sabeu, he tingut les boles de retirar-nos de l’Acord Climàtic de París. Com tots sabem, el canvi climàtic és fals, com aquest vídeo”. Efectivament, és un muntatge realitzat per uns programes informàtics per modificar veu i vídeo cada cop més extesos.

Trump heeft een boodschap voor alle Belgen… #Klimaatpetitie pic.twitter.com/Kf7nIaDOKj

— sp.a (@sp_a) 20 de mayo de 2018

A l’època de les anomenades ‘fake news’ (notícies falses), arriba un nou fenonem encara més preocupant, les ‘deep fakes’ o mentides profundes que afecten directament a l’àmbit audiovisual. Allò d’una imatge val més que mil paraules ja no serveix si les imatges són falses. Aquesta tendència s’estén. L’àudio i el vídeo són perfectament manipulables al servei de les notícies falses, l’entreteniment i la propaganda política. Podríem caure en la temptació de dir que són el futur, però certament, estem en temps present.

Les ‘deep fakes’ segueixen el mateix patró que les ‘fake news’: un contingut que difon mentides, propaganda o desinforma, sota una aparença de veritat. Vídeos o audios que semblen reals i que es difonen de forma viral.

El desembre de 2017, el site de tecnologia Motherboard va publicar un article sobre el primer vídeo porno realitzat amb Intel·ligència Artificial per un usuari de Reddit que es feia anomenar ‘deepfakes’. Aquest tipus de continguts van anar proliferant a partir d’aquell moment i a poc a poc el sobrenom de l’autor va donar nom a aquest tipus de vídeos.

Així, primer van ser vídeos pornogràfics amb un nivell tècnic qüestionable. Un senzill software permetia inserir les cares d’actrius i actors de Hollywood com ara Jessica Alba, Natalie Portman, Daisy Ridley, Nicolas Cage o cantants com Taylor Swift. La pràctica de produir pornografia falsa assistida per Intel·ligència Artificial es va perfeccionar i les demostracions del que es podia arribar a fer s’ha accelerat i ara hi ha diferents programaris que usen la tècnica del Face2Face. És a dir, inserir la cara d’una persona en una altra filmació.

Però no és només qüestió de vídeos. El 22 de novembre de 1963, John Fitzgerald Kennedy va ser assassinat a Dallas. Creuava Dealey Plaza i es trobava a cinc minuts d’arribar al Trade Mart on l’esperaven més de 2.000 persones per començar un míting. Ara hem pogut escoltar el discurs que JFK hauria fet a Dallas, 55 anys després gràcies a la tecnologia. CereProc, una empresa escocesa, ha agafat més de 116.000 fragments de veu, de 0,4 segons de durada a partir de més de 800 discursos del president assassinat. En aquest cas la Intel·ligència Artificial ha permès reviure un moment impossible a la història dels Estats Units.

Als Estats Unit, Voicery és una ‘startup’ que en els pocs mesos de vida que té ja ha rebut centenars de sol·licituds de companyies interessades a desenvolupar les seves pròpies veus de marca. Establerta a San Francisco, el treball de Voicery és precisament personalitzar veus digitals. El model de Voicery funciona de manera simple: només necessita unes poques hores del discurs d’un actor de veu perquè una xarxa neuronal profunda imiti la veu d’aquesta persona. La computadora s’entrena a través dels discursos d’aquesta font original. D’altra banda, el gegant de programari Adobe està creant un “Photoshop per a àudio” que facilita la modificació i la manipulació del que algú ha dit. A Canadà estan treballant en un software de veu anomenat ‘Lyrebird’.

Però com hem dit anteriorment, les ‘deep fakes’ estan a les mans de qualsevol usuari. FakeApp és una aplicació amb què pots fer amb relativa facilitat continguts audiovisuals trucats. Aquest vídeo sobre Obama n’és una mostra.

Buzzfeed va realitzar una prova creant un vídeo a partir d’unes imatges originals de Barack Obama, afegint la veu i la boca del còmic Jordan Peele. Després de 56 hores, unes quantes proves i la supervisió d’un professional d’efectes de vídeo, va ser relativament fàcil crear aquesta ‘deed fake’.

“Una creixent muntanya de merda”. Així defineix David Remnick, editor del New Yorker, el fenomen de les ‘fake news’. Remnick afirma que l’augment del fenomen de les notícies falses “està sent alimentat per la velocitat i la ubiqüitat dels mitjans socials i les noves plataformes, que agreuja la propagació”.

En el món de la comunicació actual hi ha tres factors clau que contribueixen a la proliferació de les ‘fake news’ i la desinformació. La desintermediació tecnològica permet que qualsevol usuari amb inversions reduïdes pugui produir i distribuir continguts de baix cost. El segon factor és la generalització de la publicitat programàtica i les campanyes que paguen en funció del CPM (cost per mil o el preu dels anuncis en relació a mil impressions) que provoquen un model de negoci fonamentat en les pàgines vistes generades. El tercer factor fonamental és la massificació de l’ús de les xarxes socials.

Remnick compara la propagació de les fake news amb el canvi climàtic: “No podem eliminar del tot la falsetat, igual que la contaminació, però com podem reduir-lo i respirar una mica millor?”.

A l’actualitat la lluita contra les ‘deep fakes’ és encara més crua que la lluita contra les ‘fake news’. De la mateixa forma que l’extensió de les mentides profundes té a veure amb l’ús malèvol de la Intel·ligència Artificial i del ‘deep learning’, l’evolució de les màquines acabarà sent un bon antídot per aquest tipus de desinformació. Ara per ara, la detecció de les ‘deep fakes’ passa per tenir en compte la font d’origen, comprovar la diversitat de les publicacions d’aquell contingut audiovisual, inspeccionar el moviment de la boca -en el cas de discursos com els de Trump o Obama, per exemple-, analitzar les imatges frame a frame o usar el Youtube Data Viewer per comprovar les metadates dels continguts publicats.

Segons dades de l’empresa Cisco, el 2020 el 80% dels continguts a Internet seran vídeos. Estem preparats per combatre l’allau de continguts audiovisuals falsos? Hem d’estar educats amb pensament crític però també preparats amb eines tecnològiques contra la mentida global.

Miquel Pellicer i Alapont és periodista, antropòleg i autor de ‘La comunicación en la era Trump’ (UOC, 2017)

 

El 6 de juny, el CCCB celebra el Dia Orwell. Amb aquest motiu, i arran de la publicació en castellà del seu llibre ‘El futuro es historia. Rusia y el regreso del totalitarismo’ (Turner, 2018), la periodista i activista Masha Gessen farà (18:30 hores) la conferència titulada ‘Allò que hem d’imaginar’, on reivindicarà la imaginació com a eina necessària per revivificar l’ideal de la democràcia i contrarestar els embats del totalitarisme.