Tendemos a confiar en el contenido de las grabaciones de audio y video. Pero con la IA, la cara o la voz de cualquier persona pueden recrearse con una precisión de punta. El producto es una imitación profunda, una suplantación que se puede utilizar para memes, información errónea o pornografía.
- Por ejemplo, ¿Sabes Cómo comprobar si una fotografía ha pasado por Photoshop?
Una mirada a las fallas profundas de Nicholas Cage o al PSA profundo de Jordan Peele deja en claro que estamos lidiando con una tecnología nueva y extraña. Estos ejemplos, aunque relativamente inofensivos, plantean preguntas sobre el futuro. ¿Podemos confiar en el video y el audio? ¿Podemos responsabilizar a las personas por sus acciones en pantalla? ¿Estamos listos para los Deepfake o ultrafalso?
Los Deepfakes son nuevos, fáciles de hacer y crecen rápidamente
La tecnología Deepfake tiene solo unos años, pero ya ha explotado en algo que cautiva y desconcierta. El término “deepfakes“, que se acuñó en un hilo de Reddit en 2017, se utiliza para describir la recreación de la apariencia o la voz de un humano a través de la inteligencia artificial. Sorprendentemente, casi cualquier persona puede crear un deepfake con una PC pobre, algún software y unas pocas horas de trabajo.
Al igual que con cualquier nueva tecnología, existe cierta confusión con respecto a los deepfakes. El video de “borracho Pelosi” es un excelente ejemplo de esta confusión. Deepfakes son construidos por AI, y están hechos para hacerse pasar por personas. El video “dunk Pelosi“, al que se le ha llamado “deepfake”, es en realidad solo un video de Nancy Pelosi que se desaceleró y corrigió para agregar un efecto de habla confusa.
Esto es también lo que hace que deepfakery sea diferente de, digamos, el CGI Carrie Fisher en Star Wars: Rogue One. Mientras que Disney gastó un montón de dinero estudiando el rostro de Carrie Fisher y recreando a mano, un nerd con algún software deepfake puede hacer el mismo trabajo gratis en un solo día. AI hace que el trabajo sea increíblemente simple, barato y convincente.
Cómo hacer un Deepfake
Al igual que un estudiante en un aula, la IA tiene que “aprender” cómo realizar su tarea prevista. Lo hace a través de un proceso de prueba y error de fuerza bruta, generalmente denominado aprendizaje automático o aprendizaje profundo. Una IA que está diseñada para completar el primer nivel de Super Mario Bros, por ejemplo, jugará el juego una y otra vez hasta que descubra la mejor manera de ganar. La persona que diseña la IA debe proporcionar algunos datos para comenzar las cosas, junto con algunas “reglas” cuando las cosas salen mal en el camino. Aparte de eso, la IA hace todo el trabajo.
Lo mismo ocurre con la recreación facial deepfake. Pero, por supuesto, recrear caras no es lo mismo que vencer a un videojuego. Si tuviésemos que crear una imitación profunda de Nicholas Cage que presentara el show de Wendy Williams, esto es lo que necesitaríamos:
- Un video de destino: A partir de este momento, los deepfakes funcionan mejor con videos de destino claros y limpios. Es por eso que algunos de los más profundos y convincentes son los políticos; Tienden a pararse en un podio bajo una iluminación constante. Entonces, solo necesitamos un video de Wendy sentada y hablando.
- Dos conjuntos de datos: para que los movimientos de la boca y la cabeza se vean precisos, necesitamos un conjunto de datos del rostro de Wendy Williams y un conjunto de datos del rostro de Nicholas Cage. Si Wendy mira a la derecha, necesitamos una foto de Nicholas Cage mirando a la derecha. Si Wendy abre la boca, necesitamos una foto de Cage abriendo la boca.
Después de eso, dejamos que la IA haga su trabajo. Intenta crear el deepfake una y otra vez, aprendiendo de sus errores en el camino. Simple, ¿verdad? Bueno, un video de la cara de Cage en el cuerpo de Wendy William no va a engañar a nadie, entonces, ¿cómo podemos ir un poco más lejos?
Las fallas más convincentes (y potencialmente dañinas) son las falsas suplantaciones. El popular Obama Deepfake de Jordan Peele es un buen ejemplo. Así que vamos a hacer una de estas imitaciones. Creemos una falsificación profunda de Mark Zuckerberg declarando su odio a las hormigas, eso suena convincente, ¿verdad? Esto es lo que necesitaremos:
- Un video de destino: este podría ser un video del mismo Zuckerberg o un actor que se parece a Zuckerberg. Si nuestro video de destino es de un actor, simplemente pegaremos la cara de Zuckerberg en el actor.
- Datos de la foto: necesitamos fotos de Zuckerberg hablando, parpadeando y moviendo la cabeza. Si estamos superponiendo su rostro a un actor, también necesitaremos un conjunto de datos de los movimientos faciales del actor.
- La Voz de Zuck: Nuestro deepfake necesita sonar como Zuck. Podemos hacer esto grabando un imitador o recreando la voz de Zuckerberg con AI. Para recrear su voz, simplemente ejecutamos muestras de audio de Zuckerberg a través de una IA como Lyrebird, y luego escribimos lo que queremos que diga.
- Una IA de sincronización de labios: Ya que estamos agregando la voz de Zuckerberg falso a nuestro video, una IA de sincronización de labios debe asegurarse de que los movimientos faciales deepfake coincidan con lo que se dice.
Los Deepfakes ya han causado daños en el mundo real
A partir de este momento, la mayoría de los imitadores son solo los memes de Nicholas Cage, los anuncios de servicio público y el espeluznante porn* de celebridades. Estas salidas son relativamente inofensivas y fáciles de identificar, pero en algunos casos, las falsificaciones se utilizan con éxito para difundir información errónea y dañar la vida de otras personas.
En la India, los nacionalistas hindúes emplean los Deepfakes para desacreditar e incitar a la violencia contra las mujeres periodistas. En 2018, una periodista llamada Rana Ayyub fue víctima de una campaña de desinformación, que incluyó un video falso de su rostro superpuesto a un video porn*gráfico. Esto llevó a otras formas de acoso en línea y la amenaza de violencia física.
En Estados Unidos, la tecnología deepfake se usa a menudo para crear pornografía de venganza no consensual. Según lo informado por Vice, muchos usuarios del ya prohibido foro de Reddit de deepfakes preguntaron cómo crear deepfakes de ex novias, enamorados, amigos y compañeros de clase. El problema es tan grande que Virginia ahora prohíbe todas las formas de pornografía no consensual, incluidas Deepfakes.
A medida que los Deepfakes se vuelven más y más convincentes, la tecnología se utilizará sin duda para propósitos más dudosos. Pero hay una posibilidad de que estemos exagerando, ¿verdad? ¿No es este el paso más natural después de Photoshop?
Las Deepfakes son una extensión natural de las imágenes retocadas
Incluso en su nivel más básico, los Deepfakes son inquietantes. Confiamos en las grabaciones de audio y video para capturar las palabras y acciones de las personas sin ningún sesgo o información errónea. Pero en cierto modo, la amenaza de los Deepfakes no es nueva en absoluto. Ha existido desde que empezamos a utilizar la fotografía.
Tomemos, por ejemplo, las pocas fotografías que existen de Abraham Lincoln. La mayoría de estas fotografías (incluidos los retratos en el centavo y el billete de cinco dólares) fueron manipuladas por un fotógrafo llamado Mathew Brady para mejorar la apariencia delgada de Lincoln (específicamente su cuello delgado). Algunos de estos retratos se editaron de una manera que recuerda a los deepfakes, con la cabeza de Lincoln superpuesta a los cuerpos de hombres “fuertes” como Calhoun (el siguiente ejemplo es un grabado, no una fotografía).
Esto suena como un poco de publicidad extraña, pero durante la década de 1860, la fotografía mostraba una cierta “verdad” que ahora reservamos para grabaciones de audio y video. Fue considerado como el polo opuesto del arte, una ciencia. Estas fotos fueron manipuladas para desacreditar intencionalmente a los periódicos que criticaron a Lincoln por su débil cuerpo. Al final, funcionó. Los estadounidenses quedaron impresionados por la figura de Lincoln, y el mismo Lincoln afirmó que las fotos de Brady “me hicieron presidente“.
La conexión entre deepfakes y la edición de fotos del siglo XIX es extrañamente reconfortante. Nos ofrece la narrativa de que, si bien esta tecnología tiene graves consecuencias, no es algo que esté totalmente fuera de nuestro control. Pero, lamentablemente, esa narrativa puede no durar mucho.
No seremos capaces de detectar Deepfakes para siempre
Estamos acostumbrados a detectar imágenes y videos falsos con nuestros ojos. Es fácil mirar un retrato de la familia de Joseph Goebbels y decir: “hay algo extraño en ese tipo en la parte de atrás”. Una mirada a las fotos de propaganda de Corea del Norte hace evidente que, sin los tutoriales de YouTube, la gente no sabe nada en Photoshop. Y por más impresionantes que sean los deepfakes, todavía es posible detectar un deepfake solo a la vista.
Pero no podremos detectar deepfakes por mucho más tiempo. Cada año, los deepfakes se vuelven más convincentes y aún más fáciles de crear. Puedes hacer un deepfake con una sola foto, y puedes usar AI como Lyrebird para clonar voces en menos de un minuto. Deepfakes de alta tecnología que combinan video y audio falsos son increíblemente convincentes, incluso cuando están hechos para imitar a figuras reconocibles como Mark Zuckerberg .
En el futuro, podremos usar inteligencia artificial, algoritmos y tecnología de cadena de bloques para luchar contra los Deepfakes. Teóricamente, AI podría escanear videos para buscar “fingerprints” deepfake, y la tecnología de cadena de bloques instalada en los sistemas operativos podría marcar a los usuarios o archivos que han tocado el software deepfake.
Si estos métodos anti-deepfake te suenan estúpidos, únete al club. Incluso los investigadores de AI dudan de que haya una verdadera solución para los deepfakes. A medida que el software de detección mejore, también lo harán los deepfakes. Eventualmente, llegaremos a un punto en el que será imposible detectar los deepfakes, y tendremos mucho más de qué preocuparnos que del falso porn* de celebridades y videos de Nicolas Cage.
¡Listo! ¡Y básicamente es esto! Sin complicaciones y de forma muy rápida. Sigue visitando nuestro blog y encontrarás más trucos que te harán todo más sencillo. No olvides COMPARTIR el artículo y darle Like a nuestra fanpage de Facebook y/o suscribirte al canal de YouTube.
