Los ultrafalsos o deepfakes consisten en contenidos digitales intervenidos o alterados con tal profesionalismo que para nosotros —los humanos— es casi imposible detectar si son reales o falsos.
Estos contenidos pueden ser videos, imágenes o audios manipulados de tal forma que el producto final puede tergiversar la verdad y generar confusión en el público, lo cual crea una evidente amenaza a la verdad dentro de la ecosfera de la información.
La historia de los deepfakes comienza con dos corrientes principales, la académica y la aficionada. La primera, desde hace ya más de 20 años, ha usado distintas tecnologías en función de un efecto particular deseado en producciones audiovisuales. Se utilizó inicialmente para comprobar el alcance de la técnica de alteración en cine o videos experimentales y no tuvo ninguna trascendencia social.
Un ejemplo reciente de esta corriente se desarrolló desde la Universidad de Washington, donde investigadores utilizaron herramientas de inteligencia artificial para modelar, de manera muy precisa, los gestos y movimientos de la boca del expresidente Barack Obama al hablar. El video fue publicado en YouTube con sus respectivas aclaraciones y sirvió para iniciar un debate sano sobre el futuro de los contenidos digitalmente alterados y su impacto en nuestra sociedad.
Ultrafalsos
La corriente aficionada utiliza esta misma base tecnológica para crear alteraciones que van desde videos pornográficos que utilizan los rostros de celebridades de Hollywood, a videos de personajes políticos que hablan falsedades y se expresan de manera engañosa. También hay videos de personajes públicos que conversan sobre temas contemporáneos, que nunca fueron reales.
Los ejemplos más recientes incluyen un ultrafalso de Mark Zuckerberg en el que “habla” sobre el tratamiento de los datos, que incluso está poniendo a prueba las políticas de Facebook sobre contenidos falsos.
Otro video muestra a Nancy Pelosi, presidente de la Cámara de Representantes de Estados Unidos, “hablando” como si estuviera bajo los efectos del alcohol. En este último caso, fue tan difícil comprobar su veracidad durante los primeros días, que tanto Facebook como YouTube tardaron más de un tiempo prudente en darlo de baja.
En el campo del audio, recientemente salió a la luz un simulador de voz ultrafalso, que permitía a los usuarios introducir hasta 280 caracteres de texto en una página web y con esto producir una voz casi idéntica a la del famoso autor, profesor y psicólogo clínico canadiense Jordan Peterson.
Este desarrollo, que simula la voz de Peterson de manera excepcional, llamó la atención de distintos medios y líderes de opinión. Semanas después de hacerse público, las revistas Forbes y Motherboard (división de VICE) dieron a conocer detalles del programa e indicaron que solo requiere 6 horas de audio original del autor para aprender su voz y producir una falsificación creíble, que incluso simula la entonación original y el ritmo al hablar.
Esta misma tecnología se está empleando para falsificar la voz de otros líderes políticos, como Donald Trump, Bernie Sanders y el expresidente Bill Clinton.
A su vez, Jordan Peterson amenazó con instaurar acciones legales contra los creadores de este ultrafalso auditivo.
Indudablemente, esta tecnología pone en riesgo a los medios de comunicación, a los consumidores de contenido y, por supuesto, a los actores principales o personajes de la vida pública como periodistas, políticos y líderes de opinión.
Se estima que más de 10.000 videos ultrafalsos ya circulan en la web y este número crece a diario de manera exponencial. Entendiendo la dinámica de esta nueva tendencia, no es difícil predecir que tiene la capacidad de afectar gravemente la confiabilidad pública en el periodismo, el consumo de noticias y las democracias. Además, puede causar daños irreparables en la ecosfera de la información digital.
Algunos argumentan que la solución está del lado del consumidor, obligado siempre a comprobar la veracidad de sus fuentes y a ser más riguroso en la selección de los medios que consume. Otros opinan que la responsabilidad recae en las plataformas de medios digitales que deben tener la capacidad para erradicar completamente estos contenidos, detectarlos a tiempo y prohibir su distribución.
Por el momento, no se vislumbra solución. Este seguirá siendo un gran reto para medios, plataformas y consumidores de contenido. Por ahora, solo se puede decir que difícilmente habrá otra tecnología con más capacidad de alterar y afectar negativamente las comunicaciones en nuestra era.
los ultrafalsos
Por Camilo Salah, subgerente de Wavemaker (GroupM), operación de medios de WPP con presencia global en 90 países y oficinas en Bogotá, Medellín y Cali.
