Si no estás familiarizado con los llamados « deep fakes» tal vez es el momento de sumergirse en esta tecnología emergente que, en manos de personas malintencionadas, puede llegar a alterar el curso de la historia. Se trata de herramientas que pueden manipular secuencias de vídeo hasta tal punto que pueden hacerlas pasar por reales.
El mayor miedo, ahora, es que pueda llegar a democratizarse este tipo de servicios digitales; algo que empieza a suceder como ha demostrado Zao, una aplicación para dispositivos móviles iOS diseñada en China que ha causado un gran revuelo por los resultados obtenidos: en solo ocho segundos puede generar un vídeo intercambiando el rostro del actor Leonardo diCaprio por el de otra persona. Fácil, efectivo, pero también peligroso por diversos motivos.
En tan solo tres días desde que se diera a conocer, el servicio ha causado una tremenda polémica en el país por las posibles consecuencias que puede tener en la lucha por la desinformación en redes sociales. La «app» se presenta, sin embargo, como un generador de filtros para «convertirse» en superestrellas.
A partir de una fotografía personal en miniatura, el sistema creado por Zao consigue integrarla de manera natural en un vídeo, aunque ha empezado a suscitar dudas acerca de su intromisión en la privacidad de los usuarios. Para utilizarla tan solo requiere de asociar el número de teléfono y darle permiso al carrete de fotografías almacenada en el terminal. Entonces, los usuarios pueden seleccionar un vídeo de un extenso catálogo de personajes famosos a los que se va a superponer la imagen. Entre ellos, personajes internacionales como Marilyn Monroe o Leonardo diCaprio.
Lanzada hace escasos días, las descargas de Zao se han disparado: es una de las tres primeras aplicaciones más descargadas en la tienda digital App Store en China. Los responsables del proyecto es Momo Inc., servicio local de retransmisiones en directo. Según la documentación a la que ha tenido acceso el medio Bloomberg, está fundada por Wang Li y Lei Xiaoliang.
Tras hacerse viral, la compañía se ha visto obligada a modificar algunas de las cláusulas que ha generado una mayor preocupación entre los usuarios. En la versión origincial, la «app» se reservaba tener derechos «libres, irrevocables, permanentes, transferibles y con licencia» para utilizar el contenido de los usuarios, aunque en una actualización ha prometido que el material cargado por el usuario no se comercializará sin su permiso.
«Poner en manos de todos los usuarios de internet esta tecnología, ciertamente avanzada, puede generar un caos importante»
El grupo de investigación del Centro de Investigación de Comercio Electrónico de China ha manifestado también que la aplicación Zao «viola ciertas leyes y estándares establecidos por la nación y la industria», instandol así a las autoridades a iniciar un análisis exhaustivo de sus posibilidades. «Si la app solamente te hace el vídeo no hay ningún problema. Si al final se da cuenta que tiene un gran volumen de datos, ya sea rostros de personas o la producción de vídeos, podemos estar en el juego del consentimiento y puede chocar con el derecho del honor», valora a este diario Samuel Parra, jurista experto en derecho digital.
«La empresa va a tener que explicar y concretar exactamente la finalidad de los datos; un simple consentimiento genérico no sería válido», apunta.
Además del posible conflicto acerca de la privacidad de los usuarios, Zao también ha puesto de manifiesto los accesible de esta tecnología. «Hace unos años los “deep fakes” era algo que tenía acceso unas pocas empresas, y ahora cualquier lo puede hacer.
Estamos colocando a la gente herramientas que pueden causar mucho daño», añade Parra, quien quien aprovecha para descargar parte de la responsabilidad en las empresas que desarrollan este tipo de servicios digitales: «me preocupa porque es un generador de “fake news” asombroso. Poner en manos de todos los usuarios de internet esta tecnología, ciertamente avanzada, puede generar un caos importante».
