Header Ads Widget

Ticker

6/recent/ticker-posts

¿Qué es un deepfake? ¿Debería preocuparme?

 

Un conjunto de datos de rostros de hombres.

Tendemos a confiar en el contenido de las grabaciones de video y audio. Pero con la IA, la cara o la voz de cualquier persona se pueden recrear con una precisión milimétrica. El producto es un deepfake, una suplantación de identidad que se puede usar para memes, desinformación o pornografía.

Una mirada a los deepfakes de Nicholas Cage o al PSA deepfake de Jordan Peele  deja en claro que estamos tratando con una nueva tecnología extraña. Estos ejemplos, aunque relativamente inofensivos, plantean interrogantes sobre el futuro. ¿Podemos confiar en el video y el audio? ¿Podemos responsabilizar a las personas por sus acciones en pantalla? ¿Estamos preparados para los deepfakes?

Los deepfakes son nuevos, fáciles de hacer y crecen rápidamente

La tecnología Deepfake tiene solo unos pocos años, pero ya se ha convertido en algo cautivador e inquietante a la vez. El término "deepfake", que se acuñó en un hilo de Reddit en 2017, se utiliza para describir la recreación de la apariencia o la voz de un humano a través de la inteligencia artificial. Sorprendentemente, casi cualquier persona puede crear un deepfake con una PC de mala calidad, algo de software y unas pocas horas de trabajo.

Una escena de Star Trek con el Capitán Kirk interpretado por Vic Mignogna.  Los fanáticos crearon un deepfake de esta escena en la que la cara de William Shatner se superpone a la de Vic.  Irónicamente, la cara de Vic es la que parece profundamente falsa.

Al igual que con cualquier tecnología nueva, existe cierta confusión en torno a los deepfakes. El video de "Pelosi borracha" es un excelente ejemplo de esta confusión. Los deepfakes son construidos por IA y están hechos para hacerse pasar por personas. El video de "clavar Pelosi", al que se ha hecho referencia como deepfake, es en realidad solo un video de Nancy Pelosi que ha sido ralentizado y corregido para agregar un efecto de habla arrastrada.

Esto es también lo que hace que deepfakery sea diferente de, digamos, el CGI Carrie Fisher en Star Wars: Rogue One. Mientras Disney gastó montones de dinero en estudiar el rostro de Carrie Fisher y recrearlo a mano, un nerd con algún software deepfake puede hacer el mismo trabajo gratis en un solo día. La IA hace que el trabajo sea increíblemente simple, económico y convincente.

Cómo hacer un deepfake

Al igual que un estudiante en un aula, la IA tiene que "aprender" a realizar su tarea prevista. Lo hace a través de un proceso de prueba y error de fuerza bruta, generalmente denominado aprendizaje automático o aprendizaje profundoUna IA diseñada para completar el primer nivel de Super Mario Bros, por ejemplo, jugará el juego una y otra vez hasta que descubra la mejor manera de ganar. La persona que diseña la IA debe proporcionar algunos datos para comenzar, junto con algunas "reglas" cuando las cosas van mal en el camino. Aparte de eso, la IA hace todo el trabajo.

Lo mismo ocurre con la recreación facial deepfake. Pero, por supuesto, recrear rostros no es lo mismo que vencer a un videojuego. Si tuviéramos que crear un deepfake de Nicholas Cage presentando el programa de Wendy Williams, esto es lo que necesitaríamos:

  • Un video de destino : a partir de ahora, los deepfakes funcionan mejor con videos de destino claros y limpios. Es por eso que algunos de los deepfakes más convincentes son los de los políticos; tienden a quedarse quietos en un podio bajo una iluminación constante. Entonces, solo necesitamos un video de Wendy sentada y hablando.
  • Dos conjuntos de datos : para que los movimientos de la boca y la cabeza parezcan precisos, necesitamos un conjunto de datos del rostro de Wendy Williams y un conjunto de datos del rostro de Nicholas Cage. Si Wendy mira hacia la derecha, necesitamos una foto de Nicholas Cage mirando hacia la derecha. Si Wendy abre la boca, necesitamos una foto de Cage abriendo la boca.

Después de eso, dejamos que la IA haga su trabajo. Intenta crear el deepfake una y otra vez, aprendiendo de sus errores en el camino. Simple, ¿verdad? Bueno, un video de la cara de Cage en el cuerpo de Wendy William no engañará a nadie, entonces, ¿cómo podemos ir un poco más lejos?

Los deepfakes más convincentes (y potencialmente dañinos) son las imitaciones totales. El popular deepfake de Obama de Jordan Peele es un buen ejemplo. Así que hagamos una de estas suplantaciones. Creemos un deepfake de Mark Zuckerberg declarando su odio por las hormigas, eso suena convincente, ¿verdad? Esto es lo que necesitaremos:

  • Un video de destino : podría ser un video del propio Zuckerberg o un actor que se parece a Zuckerberg. Si nuestro video de destino es de un actor, simplemente pegaremos la cara de Zuckerberg en el actor.
  • Datos de fotos : necesitamos fotos de Zuckerberg hablando, parpadeando y moviendo la cabeza. Si superponemos su rostro a un actor, también necesitaremos un conjunto de datos de los movimientos faciales del actor.
  • La voz de Zuck : nuestro deepfake necesita sonar como The Zuck. Podemos hacer esto grabando un imitador o recreando la voz de Zuckerberg con IA. Para recrear su voz, simplemente ejecutamos muestras de audio de Zuckerberg a través de una IA como Lyrebird, y luego escribimos lo que queremos que diga.
  • Una IA de sincronización de labios : dado que estamos  agregando la voz del falso Zuckerberg a nuestro video, una IA de sincronización de labios debe asegurarse de que los movimientos faciales de deepfake coincidan con lo que se dice.

No estamos tratando de restar importancia al trabajo y la experiencia que conlleva la deepfakery. Pero en comparación con el trabajo de CGI de un millón de dólares que trajo a Audrey Hepburn de entre los muertos, los deepfakes son un paseo por el parque. Y aunque todavía no nos hemos enamorado de un deepfake político o de una celebridad, incluso los deepfakes más obvios y horribles han causado un daño real.

Los deepfakes ya han causado daños en el mundo real

En este momento, la mayoría de los deepfakes son solo memes de Nicholas Cage, anuncios de servicio público y espeluznante pornografía de celebridades. Estos medios son relativamente inofensivos y fáciles de identificar, pero en algunos casos, los deepfakes se utilizan con éxito para difundir información errónea y dañar la vida de otras personas.

En India, los nacionalistas hindúes emplean deepfakes para desacreditar e incitar a la violencia contra las mujeres periodistas. En 2018, una periodista llamada Rana Ayyub fue víctima de una campaña de desinformación de este tipo, que incluyó un video deepfake de su rostro superpuesto a un video pornográfico. Esto condujo a otras formas de acoso en línea y a la amenaza de violencia física.

En los Estados Unidos, la tecnología deepfake se usa a menudo para crear pornografía de venganza no consensuada. Según lo informado por Vice, muchos usuarios en el foro Reddit de deepfakes ahora prohibido preguntaron cómo crear deepfakes de ex novias, enamoramientos, amigos y compañeros de clase (sí, pornografía infantil). El problema es tan grande que Virginia ahora prohíbe todas las formas de pornografía no consentida, incluidas las deepfakes.

A medida que los deepfakes se vuelvan cada vez más convincentes, la tecnología sin duda se utilizará para fines más dudosos. Pero existe la posibilidad de que estemos exagerando, ¿verdad? ¿No es este el paso más natural después de Photoshop?

Los deepfakes son una extensión natural de las imágenes manipuladas

Incluso en su nivel más básico, los deepfakes son inquietantes. Confiamos en las grabaciones de video y audio para capturar las palabras y acciones de las personas sin prejuicios o desinformación. Pero, en cierto modo, la amenaza de los deepfakes no es nueva en absoluto. Ha existido desde que empezamos a utilizar la fotografía.

Tomemos, por ejemplo, las pocas fotografías que existen de Abraham Lincoln. La mayoría de estas fotografías (incluidos los retratos en el centavo y el billete de cinco dólares) fueron manipuladas por un fotógrafo llamado Mathew Brady para mejorar la apariencia delgada de Lincoln (específicamente su cuello delgado). Algunos de estos retratos se editaron de una manera que recuerda a los deepfakes, con la cabeza de Lincoln superpuesta a los cuerpos de hombres "fuertes" como Calhoun (el ejemplo siguiente es un grabado, no una fotografía).

Un grabado de Calhoun junto a un grabado de Lincoln.  Claramente, el rostro de Lincoln se ha superpuesto al cuerpo de Calhoun.  De lo contrario, los grabados son idénticos.

Esto suena como una publicidad extraña, pero durante la década de 1860, la fotografía contenía una cierta cantidad de "verdad" que ahora reservamos para grabaciones de video y audio. Se consideraba el polo opuesto del arte: una cienciaEstas fotos fueron manipuladas para desacreditar intencionalmente a los periódicos que criticaron a Lincoln por su cuerpo débil. Al final, funcionó. Los estadounidenses quedaron impresionados con la figura de Lincoln, y el propio Lincoln afirmó que las fotos de Brady " me hicieron presidente ".

La conexión entre los deepfakes y la edición de fotografías del siglo XIX es extrañamente reconfortante. Nos ofrece la narrativa de que, si bien esta tecnología tiene graves consecuencias, no es algo que esté completamente fuera de nuestro control. Pero, lamentablemente, es posible que esa narrativa no se mantenga por mucho tiempo.

No seremos capaces de detectar deepfakes para siempre

Estamos acostumbrados a detectar imágenes y videos falsos con nuestros ojos. Es fácil mirar un  retrato de la familia de Joseph Goebbels y decir: "Hay algo extraño en ese tipo de atrás". Un vistazo a las fotos de propaganda de Corea del Norte hace evidente que, sin los tutoriales de YouTube, la gente apesta en Photoshop. Y por más impresionantes que sean los deepfakes, todavía es posible detectar un deepfake solo a la vista.

Pero no podremos detectar deepfakes por mucho más tiempo. Cada año, los deepfakes se vuelven más convincentes e incluso más fáciles de crear. Puedes hacer un deepfake con una sola foto y puedes usar IA como Lyrebird para clonar voces en menos de un minuto. Los deepfakes de alta tecnología que combinan vídeo y audio falsos son increíblemente convincentes, incluso cuando están hechos para imitar figuras reconocibles como Mark Zuckerberg.

En el futuro, es posible que utilicemos IA, algoritmos y tecnología blockchain para luchar contra los deepfakes. En teoría, la IA podría escanear videos para buscar " huellas dactilares " falsas , y la tecnología blockchain instalada en todos los sistemas operativos podría marcar a los usuarios o archivos que han tocado software deepfake.

Si estos métodos anti-deepfake te suenan estúpidos, únete al club. Incluso los investigadores de inteligencia artificial dudan de que exista una verdadera solución para los deepfakes. A medida que el software de detección mejore, también lo harán los deepfakes. Eventualmente, llegaremos a un punto en el que los deepfakes serán imposibles de detectar y tendremos mucho más de qué preocuparnos que el porno de celebridades falsas y los videos de Nicolas Cage.

Publicar un comentario

0 Comentarios