En noviembre de 2023, quizá por primera vez en su vida, el cantante Bad Bunny se oyó a sí mismo en una canción en la que nunca participó. "NostalgIA" fue un boom en redes sociales, y fue protagonista de millones de trends alrededor del mundo. Lo que nadie sabía al oír por primera vez la canción era que quien estaba cantando no era el boricua, y que él nada había tenido que ver con el sencillo.
Artistas como Drake, Taylor Swift y Michael Jackson también han sido suplantados digitalmente de manera tan precisa que han logrado confundir a sus más fervientes aficionados. Actores, modelos, escritores y hasta políticos también han sido víctimas de lo que hasta hace un par de años era utópico, pero que hoy parece ser una amenaza para muchos: los "deepfakes". Ante la aparente amenaza que este fenómeno supone, es importante saber qué discusiones se están dando a nivel mundial alrededor de su regulación, y qué alternativas podrían ser las más atinadas para mitigar sus riesgos.
El término deepfake fue acuñado por primera vez en 2017, y generalmente se refiere al resultado del uso de tecnologías para sintetizar imágenes, videos, textos y/o audios falsos de algo o alguien para imitarlos casi con exactitud. En esencia, es una suplantación digital de la apariencia en general de una persona, un lugar o incluso una cosa. Con los vertiginosos desarrollos tecnológicos en materia de inteligencia artificial (IA) generativa los últimos años, la precisión y realismo de los deepfakes han incrementado de manera exponencial.
A pesar de los magníficos usos que tienen las tecnologías capaces de crear deepfakes, como mejorar efectos especiales en la industria audiovisual, o hacer más reales experiencias inmersivas y de realidad virtual, también generan muchos temores. Amenazas a la privacidad, la imagen, la veracidad de la información e incluso a la democracia son solo algunos de los temores que han surgido alrededor de estas reproducciones digitales. Estos temores han llevado también a que muchos países estén intentando introducir regulaciones que limiten o restrinjan la creación y propagación de deepfakes.
Mucho se habla de las herramientas legales a disposición de las víctimas de los deepfakes: acciones penales, derecho a la imagen y la privacidad, habeas data, protecciones constitucionales, entre otras. Sin embargo, poco se ha hablado de la autorregulación de las plataformas digitales de cara a la propagación de deepfakes. Indudablemente, los riesgos asociados con la difusión de estas suplantaciones digitales se multiplican con la rapidez y eficacia con que las redes sociales viralizan el contenido. Por esta razón, estas plataformas tienen un rol preponderante, y promover la autorregulación que ellas ejerzan al interior de sus espacios digitales es altamente relevante. Encontrar el balance perfecto entre la regulación de contenido y la libertad de expresión no es tarea fácil, pero la implementación de estrategias tendientes a proteger a sus usuarios de la propagación de imágenes, videos o información falsa que puede vulnerar derechos fundamentales de sus víctimas, sin duda dará una ventaja competitiva a la plataforma que lo adopte.
De hecho, países como Estados Unidos han estudiado modificar las inmunidades legales que tienen las redes sociales para que puedan ser responsables solidariamente en casos relacionados con deepfakes. Es tal la relevancia de este tema que, recientemente, Meta puso sobre la mesa la posibilidad de incluir marcas de agua a todo el contenido creado por IA, para así mitigar riesgos y advertir a sus usuarios cuando estén ante algo que no fue creado por un humano. De hecho, hace unas semanas Instagram implementó una herramienta que identifica contenido creado con IA, y advierte a los usuarios cuando este tipo de contenido es publicado en la plataforma.
Estas discusiones están lejos de estar zanjadas, pero sin duda los desarrolladores de sistemas de IA generativa y redes sociales están teniendo en cuenta dilemas éticos con mayor frecuencia que antes. Quien logre preservar los derechos de los consumidores, y evitar al máximo los riesgos asociados a los deepfakes, sin duda tendrá un lugar en el podio de las plataformas predilectas por los usuarios.
También le puede interesar: Así será el Marketing Conference Latam 2024
