Si 2023 i 2024 han estat anys marcats per la presència de la intel·ligència artificial en tots els àmbits, especialment en aquells relacionats amb la creació de contingut, no és d’estranyar que en 2025 seguim pel mateix camí. En un món on els vídeos, imatges i àudios són cada vegada més fàcils de manipular, hi ha una cosa que està arrasant i que ja s’ha convertit en una arma de doble tall per a la comunicació: els deep fakes.

Deep QUÈ?

El terme deep fake sorgeix de la combinació de les paraules deep learning (aprenentatge profund) i fake (fals) —sí, li han donat moltíssim al coco—. Una nova paraula que, bàsicament, fa referència a tot aquest contingut digital manipulat a través de la Intel·ligència Artificial —ja sigui vídeo, àudio o imatge— per a alterar situacions, veus o rostres de persones, creant així una versió falsa però molt convincent de la realitat.

Per a entrar en matèria imaginarem que ens trobem amb un vídeo de Taylor Swift anunciant als seus seguidors que regala entrades per al seu pròxim concert. Podrà semblar real, però si ho pensem bé… hi ha alguna cosa que no encaixa. Ep, no diem que Taylor no sigui una ànima caritativa i generosa. Però, a priori, lo seu seria desconfiar i provar de contrastar la informació, per exemple, en el compte oficial de la cantant. Perquè és probable que estiguem davant un clar exemple de deep fake.

Encara que aquesta tecnologia no és precisament nova, el que la fa cada vegada més perillosa és la seva accessibilitat, ja que, gràcies a les apps, actualment està a l’abast de qualsevol. El que abans requeria d’ordinadors potents i coneixements avançats, avui dia es pot resoldre amb un mòbil i una aplicació gratuïta —la qual cosa seria genial si visquéssim en un món de color de rosa i a ningú se li ocorregués utilitzar aquestes eines per a fer el mal, però no és així—.

La IA a favor nostre

Deixant de banda el to catastrofista, aquestes eines també ens han obert un món de possibilitats positives. En màrqueting i publicitat, els deep fakes permeten desenvolupar campanyes més creatives i innovadores, crear contingut d’impacte i millorar l’experiència del client. Tot això reduint costos i facilitant així l’accés a petites empreses. Recordeu el deep fake de Lola Flores protagonitzant l’anunci “Con mucho acento” de Cruzcampo? Perquè això és només el principi.

Una altra aplicació molt popular és la dels influencers virtuals, com lil.miquela. Creats per les mateixes empreses, aquests influencers són una ganga perquè acumulen milions de seguidors, sempre diuen amén al que la marca necessita i, pel que sigui, mai es fiquen en escàndols. A més, també estem veient com les marques utilitzen IA per a personalitzar i adaptar al màxim els missatges als usuaris.

El costat fosc dels Deep Fakes

Ara bé, com comentàvem al principi, els deep fakes són una arma de doble tall. Aquesta eina comporta una gran responsabilitat, ja que, de no usar-se correctament, els deep fakes poden tornar-se en la nostra contra.

Si el públic percep la nostra campanya com a enganyosa, no sols podrem perdre la seva confiança, sinó que l’engany correrà com la pólvora i ens farem més reconeguts per la nostra falta de transparència que pel nostre producte —una crisi de reputació de manual, vaja—. A més, també cal tenir en compte que l’ús d’aquesta tecnologia pot ocasionar problemes legals si es crea contingut fals amb la veu o rostre d’altres persones sense el seu consentiment.

Com detectar-los?

Els deep fakes tenen una capacitat per a imitar la realitat d’una manera tan convincent que genera riscos alarmants. En un moment en el qual les fake news es propaguen més ràpid que les veritables notícies, aquesta tecnologia s’ha convertit en una amenaça per al màrqueting, la publicitat i, per descomptat, els mitjans de comunicació.

Per sort, encara que cada vegada és més complicat, també existeixen formes per a identificar aquestes manipulacions. ATENCIÓ!

• Nombre de parpellejos: Els éssers humans parpellegen de manera natural, mentre que els deep fakes solen fer-ho poc o res. I si ho fan, segurament és de forma una miqueta estranya i cridanera, tipus: picada d’ullet, picada d’ullet, cop de colze, cop de colze

• Cara i cos: Crear una falsificació completa que abasti la humanitat d’una persona és molt complicat, pel que la majoria dels deep fakes se centren només en el rostre. El que ens deixa una espècie de collage humà de proporcions entre cares i cossos o moviments corporals que no coincideixen amb les expressions facials —alguna cosa així com el Mr. Potato de l’era digital—.

• Durada del vídeo: De moment, la IA no està preparada per a treballar el llargmetratge. Una bona falsificació requereix molt temps i entrenament de l’algorisme, per la qual cosa els vídeos falsos solen ser curts.

• So: Una altra red flag que pot ajudar-nos a identificar deep fakes és el so. Així que si l’àudio no coincideix amb el moviment dels llavis, s’ha de sospitar!

• Interior de la boca: Finalment, per absurd que pugui semblar, aquesta tecnologia no és molt bona reproduint la llengua, les dents, ni la cavitat bucal en general quan la persona parla. Pel que si veiem una boca borrosa o poc natural —deixant a un costat les virgueries estètiques— també podem identificar-lo com un senyal d’alarma.

En resum, per mal que ens faci, els deep fakes han arribat per a quedar-se. I encara que, com hem pogut veure, ofereixen grans oportunitats per al màrqueting i la publicitat, també poden suposar un perill si les marques no troben un equilibri sa entre la creativitat que ens ofereixen i l’ètica que hem d’aplicar.

Per cert, si us interessa conèixer altres aplicacions de la intel·ligència artificial, sempre podeu recórrer a la nostra hemeroteca.

Ens veiem en el pròxim blog!