Suscríbete a Merca2.0 y accede a más 3,500 artículos exclusivos a suscriptores. Haz clic aquí

ARTÍCULO EXCLUSIVO PARA SUSCRIPTORES

Exclusiva another: usuarios perderán noción de la realidad con avances de IA y deepfakes

Con el avance de la IA en la realización de rostros sintéticos, los usuarios de internet no podrán distinguir entre lo real y el deepfake.

Compartir:

Share on facebook
Share on twitter
Share on linkedin
Share on whatsapp
  • El perfeccionamiento de la IA en el deepfake ha generado la creación de rostros hiperrealistas.

  • Las personas que los observan, en muchas ocasiones, no pueden distinguir entre la realidad y lo sintético.

  • De acuerdo con la PNAS, los rostros sintéticos son indistinguibles y confiables.

 

Pese a que el deepfake es una herramienta creativa para la publicidad, la imagen y el video hiperealista realizado con Inteligencia Artificial (IA) en muchas ocasiones es utilizado con fines mal intencionados que llevan a las personas a ser víctimas de imágenes no consensuadas, fraude financiero y campañas de desinformación. El mayor riesgo se presenta con el avance de la IA, de acuerdo con la publicación oficial de la Academia Nacional de Ciencias de Estados Unidos (PNAS, por sus siglas en inglés), es que los rostros realizados por IA son indistinguibles y más confiables que la realidad.

Vivimos en un mundo donde todo gira en torno a la tecnología, la comunicación y las relaciones sociales se desarrollan gran parte en la web. En ese sentido, la cantidad de información que se transmite ha aumentado conforme los usuarios en internet aumenta.

De acuerdo con el estudio “Digital 2022, Global Overview Report”, realizado por We are social y Hootsuite, a nivel global hay 4 mil 620 millones de usuarios en redes sociales en todo el mundo y tuvo un crecimiento interanual de más del 10 por ciento. Con esas cifras, el número de usuarios en las redes sociales llega al 58 por ciento de la población total del planeta.

“Internet es la principal puerta de acceso al conocimiento, a la información y al entretenimiento, los avances de las tecnologías de la información y de la comunicación han incorporado nuevas herramientas”, dice Castillo Valenzuela, Cruces Hernández en la investigación “La veracidad de la Información expuesta en las redes sociales”.

Con una gran conectividad y flujo rápido de información, la veracidad de lo compartido en línea se comenzó a poner en duda.

La aparición del deepfake y su perfeccionamiento es una oportunidad para la explosión de la creatividad, autenticidad y diversión para la industria publicitaria y los creativos pueden:

“Traer a la vida personajes trascendentales de la humanidad con mensajes de impacto social puede ser una punta que podría resultar atractiva para ciertas audiencias. Asimismo, el posicionamiento de rostros artificialmente generados puede ser utilizado para evitar erogar gastos de uso de imagen, derechos y regalías siempre y cuando no se parezcan a nadie conocido”, apuntó Jesús Barreda, Director de Social Media en another.

Asimismo, el deepfake ha democratizado el acceso a la tecnología para realizar efectos especiales, alterar un video y sintetizar la voz de cualquier persona.

No obstante, para Barreda el uso de la tecnología no deja de ser inquietante por el realismo que alcanzan las piezas.

Y es que conforme se va perfeccionando la tecnología, existe mayor preocupación por parte del sector público y privado sobre el ataque de los ciberdelincuentes, los que emplean la tecnología para manipular imágenes, videos y archivos.

“Comenzó como una broma, una forma de editar videos y poner nuestro rostro en famosos, pero la tecnología deepfake fue evolucionando hasta convertirse en una de las formas de fraude y desinformación más difíciles de reconocer a día de hoy”, apunta la Oficina de Seguridad del Internauta.

El tipo de expresión funciona para realizar contenido con el objetivo de acoso, chantaje, propaganda, crítica política, generar desinformación o articular documentos falsos que pasen por auténticos y crear nuevos discursos.

 

Los rostros sintéticos creados con IA indistinguibles de la realidad

A decir de Jesús Barreda, Director de Social Media en another, la IA que se emplea para generar contenidos se encuentra en continua evolución.

“De tal modo que se puede volver imperceptible para el ojo experto -y ya no hablemos del ojo común- distinguir entre lo real y lo “falso”; incluso los rostros generados por AI han demostrado ser más confiables”, puntualizó.

Ello, basándose en una publicación de PNAS que estima que en un par de años la diferencia será prácticamente nula.

Por medio de las redes antagónicas generativas (GAN), se sintetiza la imagen de una persona ficticia por medio de la alteración de pixeles y con su uso perfeccionado se pueden crear caras sintetizadas cada vez más realistas con el objetivo de que las personas que los observen no puedan distinguirlos de rostros reales.

Los rostros generados sintéticamente no solo son altamente fotorrealistas, sino que son casi indistinguibles de los rostros reales y se consideran más confiables”, dice un experimento realizado por PNAS en el que participaron 315 personas para identificar rostros reales de rostros sintéticos.

Con ello, crecen los riesgos en el uso malintencionado de “la imagen personal, fraudes o Fake News se está volviendo una constante cada vez más accesible”, dijo Jesús Barreda, Director de Social Media en another.

Y es que ahora los usuarios de internet lo pueden realizar por medio de aplicaciones, para la Oficina de Seguridad del Internauta, el mayor peligro reside en la facilidad para crear el tipo de fraudes.

Los usuarios tendrán que educarse e instruirse para identificar en un futuro los deepfakes en la web: usar el sentido común, busca aquello que no tenga sentido, revisar detenidamente las imágenes, afinar su oído, revisar coherencia y verificar contexto y duración de videos.

Desde la visión de Jesús Barreda, una regulación y sistemas de detección facial, contrastados con datos personales, serán temas que entrarán en el debate en un futuro cercano. 

 

 

Leer más: 

Otros artículos exclusivos para suscriptores