El desarrollo tecnológico ha alcanzado un nuevo hito con el surgimiento de los “deepfakes”, una tecnología capaz de crear vídeos y audios manipulados de manera realista mediante inteligencia artificial. A medida que estas técnicas avanzan, surgen preguntas sobre su impacto en la sociedad, desde la desinformación hasta la creatividad artística, como por ejemplo ahora Google anunció que está contra los deepfakes y eliminó más de 5 mil 500 millones de anuncios.
Ante eso, en el mercado actual podemos mencionar que los deepfakes representan un avance significativo en la manipulación audiovisual, utilizando algoritmos de Inteligencia Artificial (IA) para superponer rostros y voces en videos de manera convincente. Lo que antes era exclusivo de Hollywood ahora está al alcance de cualquier persona con acceso a la tecnología adecuada. Esta democratización de la manipulación audiovisual plantea preocupaciones sobre la autenticidad de la información y la confianza en los medios de comunicación.
De acuerdo a datos de Sumsub, los casos de fraude relacionados con deepfakes se han disparado entre 2022 y 2023 en muchos países de todo el mundo. Por ejemplo, el número de intentos de fraude en Filipinas aumentó un 4 mil 500 por ciento interanual, seguido de países como Vietnam, Estados Unidos y Bélgica.
La misma fuente detalló que en el mundo para el 2023, se registraron más de 2 millones de casos de intentos de usurpación de identidades.
Asimismo, un estudio de iProov indicó que en el 2022 se encontró que el 57 por ciento de los consumidores globales afirmaron que podían detectar un video deepfake, mientras que el 43 por ciento dijo que no podrían distinguir entre un video deepfake y una grabación real.
Google contra los deepfakes
Con la llegada de la IA, los videos y contenido falso han crecido en todo el mundo. Ante eso, son muchas las empresas que ya empiezan a batallar esos problemas, como ejemplo Google, que detuvo más de 5.5 mil millones de anuncios maliciosos, entre ellos, aquellos que usaron deepfakes, para ofrecer una experiencia segura y positiva a los usuarios y proteger el ecosistema publicitario.
Recientemente, el gigante tecnológica publicó su último reporte de seguridad de anuncios, donde explican que este documento tiene como objetivo hacer un balance y reforzar las medidas de seguridad para proteger a los usuarios de posibles engaños y la desinformación que proliferan a través de anuncios maliciosos o manipulados.
“Hacia finales de 2023 y entrando en 2024, nos enfrentamos a una campaña dirigida de anuncios que presentaban la imagen de figuras públicas para estafar a los usuarios, a menudo mediante el uso de deepfakes”, explicó Google.
Asimismo, mencionan que “identificamos patrones en el comportamiento de los actores maliciosos, entrenamos nuestros modelos de aplicación automatizada para detectar anuncios similares y comenzamos a eliminarlos a gran escala”.
Vale la pena mencionar que en 2023, las estafas y fraudes en todas las plataformas en línea estaban en aumento, indica Google.
“Los actores maliciosos están constantemente evolucionando sus tácticas para manipular la publicidad digital con el fin de estafar tanto a personas como a negocios legítimos”, agrega el informe.
Ante estos resultados, Google implementó una serie de políticas para reforzar la seguridad y protección de los usuarios en línea. Entre estas medidas se incluyó el lanzamiento de la política de Servicio Limitado de Anuncios en noviembre de 2023, diseñada específicamente para proteger a los usuarios limitando el alcance de los anunciantes con los que hay menor familiaridad.
Vale la pena mencionar que esta política es parte fundamental de los esfuerzos de Google para proteger a las personas de daños en línea, lo cual depende en gran medida de la capacidad de la compañía para responder rápidamente a nuevas tendencias de estafa.
Son muchas las compañías tecnológicas que están luchando contra esta información falsa, un ejemplo es Meta que ha desarrollado varias herramientas para identificar estos deepfakes y ayudar a los usuarios de sus plataformas digitales.
Y es así como, el crecimiento del fenómeno de los deepfakes marca un hito significativo en la evolución de la manipulación audiovisual. Si bien esta tecnología ofrece oportunidades para la innovación y la creatividad, también plantea desafíos éticos y legales que deben abordarse de manera urgente. Al promover la educación, la conciencia y el diálogo abierto, podemos mitigar los riesgos asociados con los deepfakes y aprovechar su potencial de manera responsable para el beneficio de la sociedad.
