- Los deepfakes han puesto en jaque más de una vez a una marca, hay hacktivistas que se dedican a poner palabras en la boca de quien no las ha mencionado
- Lo que comenzó como una broma se ha convertido poco a poco en un problema que atender por las empresas y Facebook, no se ha quedado de brazos cruzados en el tema.
- Mediante el uso de una nueva tecnología, es que la red social prevé frenar estas prácticas que tanto dolores de cabeza le ha dado.
Los deepfakes abundan en la web y algunos son muy difíciles de identificar. La tecnología detrás de estas falsificaciones permite resultados finales cada vez más realistas, y eso es una verdadera preocupación. Facebook es una de las tantas compañías que trabaja en la creación de herramientas para detectarlos, y en las últimas horas dio a conocer avances notorios.
El término: deepfakes. Traducido al español quiere decir algo así como “verdades profundas”. Y eso es lo que son. Para ejemplo, tenemos el video en el que Barack Obama aseguraba que Donald Trump era un idiota. Ese video, supimos en su momento, era falso, en efecto sí, era la cara de Obama con sus facciones, sus gesticulaciones, sus movimientos, su voz. Pero no era él. Era una réplica hecha con inteligencia artificial.
Ese video fue un experimento de Buzzfeed, empresa de medios líder en la generación de contenidos virales desde 2006. Sin embargo, esa farsa también fue el aviso de una nueva tendencia en la industria de los medios de comunicación, el marketing digital y la propaganda política. Nunca antes se habían utilizado tecnologías tan avanzados para falsear información. Mucho menos para suplantar identidades de jefes de Estado.
Para poner freno este fenómeno que ya tiene tiempo que está prohibido en la red social, ésta se alió con la Universidad Estatal de Michigan (MSU) para desarrollar un método que no solamente pretende identificar deepfakes, sino también rastrear su origen. Para ello se apoya en la ingeniería inversa. ¿Qué significa esto? Que a partir del análisis de una imagen, la tecnología puede determinar si fue generada artificialmente y detectar qué modelo generativo que se usó para producirla.
El método de Facebook todavía se encuentra bajo desarrollo y está lejos de una implementación real o masiva. De todas maneras, representa un paso al frente importante ante una problemática creciente.
El problema con los deepfakes
Los deepfakes son un problema en internet porque pueden utilizarse para manipular o difamar a las personas haciéndoles decir o hacer cosas que no han dicho o hecho. Esos montajes se basan en tecnologías de inteligencia artificial.
Desde hace unos años que los deepfakes se han vuelto parte de la realidad mediática diaria. Grandes personajes como Mark Zuckerberg, líder de Facebook, han sido víctimas de esta tecnología. Con el paso del tiempo, han ido surgiendo más apps que han demostrado la capacidad de esta innovación para el entretenimiento. Y en más de una ocasión, se le ha catalogado como una de las nuevas grandes herramientas de manipulación política y social.
Y si bien ya existen técnicas que detectan qué modelo conocido se utilizó para crear un deepfake, Facebook va más allá. El proyecto pretende identificar los “rasgos arquitectónicos” (conocidos como hiperparámetros) de modelos desconocidos, para posteriormente distinguirlos entre los patrones que quedan en la imagen final.
Ahora lee:
