En un intento de frenar el avance del abuso de la tecnología para producir deepfakes, Google libera 3.000 de ellas. Por contradictorio que parezca, tiene mucho sentido y en este artículo te explicamos porqué.

¿Qué son las deepfakes?

Deepfakes son imágenes o vídeos producidos mediante la superposición de rostros en otros cuerpos. Esta tecnología usa reconocimiento facial e Inteligencia artificial para producir movimiento y coordinar las imágenes; es tan buena al punto que cuesta trabajo reconocer el truco. Su nombre viene del acrónimo inglés formado «deep» que significa profundo (aprendizaje profundo) y «fake» que quiere decir falsificación.

Esta tecnología ha venido siendo utilizada para generar contenido a veces gracioso, pero también peligroso. Estamos hablando que tanto políticos como celebridades pueden verse en vídeo diciendo algo comprometedor o incluso en escenas pornográficas. Esto último nos lo han contado, porque nosotros de eso no sabemos…;)

Las consecuencias del abuso de esta tecnología pueden ir desde arruinar reputaciónes, aprovechamiento criminal, hasta influir en elecciones. Por lo tanto, entre más rápido y fácil sea posible descubrir el engaño, menores pueden ser sus repercusiones negativas.

¿Qué es lo qué está haciendo Google?

Entendiendo el avance de la tecnología y sus repercusiones, Google se ha puesto en la tarea de combatir las deepfakes. Para esto liberó 3.000 vídeos manipulados para acelerar el desarrollo, entrenamiento y prueba de herramientas de detección de deepfakes.

Google trabajó con 28 actores para grabar vídeos de ellos hablando, haciendo expresiones comunes, y tareas mundanas. A partir de ahí, se uso algoritmos de deepfakes de libre acceso para alterar sus rostros.

Ejemplo de vídeos proporcionados por Google para detección de deepfakes

Este banco de vídeos se ha incorporado a los nuevos laboratorios de referencia de reconocimiento forense de rostros de la Universidad Tecnológica de Munich y la Universidad Federico II de Nápoles . Allí permanece disponible para los demás desarrolladores.

Los investigadores ahora contarán con una base de datos para entrenar las herramientas automáticas de detección y hacerlas tan efectivas y precisas como sea posible; para distinguir las imágenes sintetizadas mediante Inteligencia Artificial.

Google deepfakes
Actores siendo filmados en escenas normales.

En el comunicado del Blog de Google se expresa: «mientras que este campo se mueve rápidamente, haremos crecer esta base de datos tanto como evolucione la tecnología de deepfake; y continuaremos trabajando con socios en este campo. Creemos firmemente en apoyar a la comunidad investigadora para mitigar los potenciales riesgos del mal uso de la tecnología de síntesis de medios audiovisuales., El lanzamiento de nuestro dataset de deepfakes es un importante paso en esa dirección.»

Una carrera casi perdida

En un «juego del gato y el ratón», una vez se desarrolla el método de detección que reconoce el fallo en el algoritmo de deepfake; el algoritmo puede ser actualizado fácilmente para corregirlo. Por tanto, los expertos buscan métodos de detección que complementen esta tecnología, mediante soluciones de inteligencia social y estudios de patrones de comportamiento. Igualmente se requiere de soluciones sociales, políticas y legales para desincentivar la creación de estos deepfakes.

Algo en esta imagen no cuadra…Jennifer Lawrence con el rostro de Steve Buscemi

Una preocupación de todos

Facebook y Microsoft están trabajando en iniciativas para desarrollar herramientas de código abierto que las compañías, gobiernos y los medios de comunicación puedan usar para detectar vídeos adulterados. Facebook va a liberar también una base de datos de vídeos a final de año. Entre más compañías tecnológicas se unan, mejores resultados pueden obtenerse.

Estamos a favor de iniciativas que usen esta tecnología de manera didáctica, como regresando a la vida a Salvador Dalí para una exposición; por lo que no se trata de prohibir su uso, sino de reglamentarlo y prevenir el abuso.

¿Conoces nuestras redes sociales?

Para estar siempre al día en el mundo de la tecnología, suscríbete a nuestro canal de Telegram. Además, como publicamos de media 5 artículos al día nada más, ¡no damos mucho la brasa!

CRITÍCALO Y CUESTIÓNATELO