Suscríbete a Merca2.0 y accede a más 3,500 artículos exclusivos a suscriptores. Haz clic aquí

ARTÍCULO EXCLUSIVO PARA SUSCRIPTORES

Aumentan riesgos de deepfake por ignorancia

Los mexicanos ignoran lo que es el deepfake, dando paso a una preocupante situación que podría generar desinformación y fraudes.

Compartir:

Share on facebook
Share on twitter
Share on linkedin
Share on whatsapp
  • 72 por ciento de los mexicanos no identifica qué es deepfake y el 62 por ciento no puede discernir entre un video modificado con Inteligencia Artificial (IA).

  • Los riesgos de la ignorancia son grandes, pues tienen la capacidad de provocar fake news, posverdad y fraude.

  • Gracias a la IA en un futuro se pueden prevenir los riesgos y el blockchain puede ser una oportunidad para que las creaciones malintencionadas no vean la luz.


El deepfake
es una gran herramienta creativa para el cine y la publicidad que mediante Inteligencia Artificial (IA) ha posibilitado la creación de nuevos contenidos; no obstante, el desconocimiento que existe sobre la práctica en América Latina representa un riesgo, de acuerdo con la encuesta “La infodemia y su impacto en la vida digital”, realizado por Kaspersky en asociación con CORPA, los mexicanos en un 72 por ciento ignoran y no identifican que es el deepfake, dando paso a una preocupante situación que podría derivar en fake news, creación de posverdad, prácticas de ingeniería social y fraudes.

Según el Dr. Jacob Bañuelos Capistrán, de la Universidad Autónoma de Baja California,  el deepfake –término nacido en 2017  es una imagen que ha sido manipulada digitalmente mediante un modelo basado en deep learning para modificar su contenido visual, audiovisual y/o sonoro para presentarla como auténtica, cambiando el personaje en lugar de otro, o el cuerpo y/o alternando el audio o el discurso oral del mismo.

Hoy en día, los medios digitales han permitido el consumo inmediato de la información y la rapidez representa un riesgo, principalmente, en lo referente a la verificación, ya que con el avance de la herramienta existen preocupaciones a nivel ético, político y legal.

Según la encuesta de Kaspersky en asociación con CORPA, el 70 por ciento de los usuarios en Latinoamérica ignora la existencia del deepfake: los peruanos ganan en ignorancia con 75 por ciento, seguido de los mexicanos y chilenos con 72 por ciento, argentinos con 67 por ciento, brasileños con 66 por ciento y colombianos con 63 por ciento.

Cuando se observa un video circulando en internet difícilmente los usuarios se cuestionan su autenticidad. En redes sociales han circulado casos de deepfake con burlas de los Presidentes de México interpretando canciones o de Donald Trump declarando el fin del SIDA y hasta Putin diciendo un discurso falso sobre la guerra y el 67 por ciento de los latinoamericanos no identifica dichos hechos: el 71 por ciento de colombianos no lo percibe, seguido por el 70 por ciento de chilenos, 68 por ciento de argentinos, 62 por ciento de mexicanos y 57 por ciento de peruanos.

 

El desconocimiento del deepfake abre la puerta a riesgos: posverdad, fake news y fraudes

Conforme se va perfeccionando la tecnología del deepfake, la preocupación por el tipo de expresiones para realizar contenido con el objetivo de acoso, chantaje, propaganda, crítica política o generar desinformación aumenta.

“Las principales preocupaciones provienen del ámbito de los medios de información, medios y plataformas digitales, redes sociales, los ámbitos del poder político, la legislación, la ética y la tecnología para la detección de deepfakes, entendidos como documentos falsos que se hacen pasar por auténticos, y que pueden tener un amplio alcance mediático”, apunta el Dr. Jacob Bañuelos Capistrán en su investigación “Deepfake: la imagen en tiempos de posverdad”.

La viralización de la información y el avance de la tecnología podrían articular que los documentos falsos pasen por auténticos y crear nuevos discursos.

Para Gerónimo Ávila, Fundador y Presidente de Element, el mayor riesgo del deepfake recae en lo anterior: “no sabremos distinguir entre verdad de la simulación. Por lo que posiblemente en el futuro cuestionemos mucho más sí lo que vemos en un video es real o engaño”.

Las fake news pueden ser un gran foco para los realizadores de deepfake con malas intenciones y estos van dirigidos a ingerir en el escenario político, en el caso de Vladimir Putin durante el conflicto Rusia-Ucrania se han presentado diversos videos que han sido eliminados por las redes sociales, por ejemplo, en Twitter apareció uno donde aparece en Presidente Ruso declarando la paz.

Asimismo, el Presidente de Ucrania, Zelensky puso énfasis en este tipo de videos en su cuenta de Instagram, ya que se publicó uno de él dirigiéndose a los ucranianos diciendo que depongan sus armas; no obstante, la realización era mala y pronto se evidenció la falsedad.

Otro caso muy renombrado en la formación de opinión pública fue el de Nancy Pelosi, Presidenta de la Cámara de Representantes de los Estados Unidos, lanzado en 2019, donde aparece la política modificada para parecer en “estado de ebriedad”.

“Advierte también los riesgos que un video manipulado puede generar en el marco electoral, influenciar en el electorado, dañar carreras políticas o desestabilizar el equilibrio de poder entre naciones”, señala el Dr. Jacob Bañuelos Capistrán.

Asimismo, para Alberto Arroyo, CEO de Nación 3.0,la manipulación de la realidad podría dar pie a pérdidas económicas, daño de la integridad de las personas relacionadas, fraudes, etc”.

Para mitigar los daños, se requieren tecnologías e iniciativas de detección, por ejemplo, en 2018 apareció el programa Media Forensics para el análisis de medios y detecta deepfake con el apoyo de Technical University of Munich.

También en 2020, Facebook, en alianza con Amazon Web Services, Microsoft, Partnership on AI’s Media Integrity Steering Committee y un grupo de académicos lanzaron el Deepfake Detection Challenge para identificar contenidos mediáticos manipulados mediante IA.

En ese sentido, “a largo plazo, gracias a la misma inteligencia artificial, y a tecnologías como blockchain, este tipo de acciones podrían ser detectadas antes de que puedan causar un daño, e incluso nunca ver la luz”, concluyó Alberto Arroyo, CEO Nación 3.0.

 

 

Leer más: 

Otros artículos exclusivos para suscriptores