Deepfakes y el temor que nos llegará a todos
El futuro se está asomando en nuestro presente y sí, trae sus dosis de miedo y ansiedad: dos ejemplos recientes de videos deepfake (falsificaciones de rostros generadas por computadora) atrajeron -y alarmaron- a millones de personas.
Primero, un experto en efectos visuales trabajó con un imitador de Tom Cruise para crear videos sorprendentemente precisos imitando al actor de las misiones imposibles. Los videos de la cuenta de Tik Tok @deeptomcruise, creados con la ayuda de técnicas de aprendizaje automático, obtuvieron millones de visitas a finales de febrero pasado.
Segundo, MyHeritage ofreció Deep Nostalgia, una herramienta para animar digitalmente fotografías antiguas de seres queridos, creando un video corto en el que se puede ver a las personas moviendo la cabeza e, incluso, sonriendo. Más de 30 millones de imágenes se animaron en las primeras semanas, según la compañía.
Los videos renovaron la atención de la industria de los videos y el entretenimiento, que podrían llevar a mejoras significativas en sus áreas pero, por supuesto, la tecnología también podría usarse (y, lamentablemente, se ha usado) en todo tipo de videos. Algunos casos han insertado personas, incluidos niños, en películas XXX.
Los creadores del Deepfake Tom Cruis dijeron en entrevista con el New York Times que la usar esa tecnología es bastante difícil y que un abuso es improbable y la compañía detrás de la herramienta de animación dijo que implementó salvaguardas para evitar el mal uso.
Los expertos dicen que los dos ejemplos no son alarmantes, pero plantean preguntas sobre el futuro de la tecnología que deberían considerarse mientras aún está en sus primeros desarrollos.
Tik Tok Cruise
A quien ves en los videos del Deepfake de Tom Cruise es a Miles Fisher, un imitador de Tom Cruise, quien ya dominaba con fluidez los gestos y sonidos del actor y que tiene un gran parecido incluso sin las animaciones. En los videos solo se muestra el rostro (digital), desde la frente hasta la barbilla, del verdadero Tom Cruise.
Chirs Ume, el experto en digitalización de rostros, pasó dos meses “entrenando” su modelo de computadora para crear las expresiones faciales de Cruise, primero alimentándolo con un video de rostros al azar antes de enfocarse en él. Ume pasó aproximadamente 24 horas en la producción de cada video de un minuto, ajustando detalles como la alineación de los ojos.
Incluso si la tecnología mejora, videos como de Fisher/Cruise requerirían un extenso trabajo manual y un imitador hábil, dijo Ume.
“Somos como un pequeño estudio de Hollywood”, dijo. “No es algo que puedas hacer en una computadora en casa, presionando un botón”. Ume dijo que no tuvo contacto ni con Tom Cruise ni con sus representantes o agentes.
Lo que se viene
Los críticos temen que se abuse de la tecnología a medida que mejore, especialmente para crear pornografía que coloque el rostro de una persona en el cuerpo de otra.
Nina Schick, autora de Deepfakes: The Coming Infocalypse, dijo que la producción de la primera pornografía deepfaked requirió horas de video y las celebridades eran los objetivos típicos. Pero a medida que la tecnología se vuelve más avanzada, se necesitará menos contenido y tiempo para crear los videos, lo que pondrá en riesgo a más mujeres y niños.
Una herramienta en la aplicación de mensajería Telegram que permitía a los usuarios crear imágenes de desnudos simulados a partir de una sola foto cargada ya se ha utilizado cientos de miles de veces, según BuzzFeed News.
“Esto será un problema que afectará a todos, especialmente a aquellos que no tienen recursos para protegerse”, dijo Schick.
Con información de The New York Times