Suscríbete a Merca2.0. Haz clic aquí

Facebook acude a la IA para luchar contra el porno de venganza, incluso antes de ser denunciado

La publicación de imágenes con contenido sexual como forma de venganza hacia otros usuarios es uno de los tantos problemas a los que se está enfrentando Facebook. Lo que hará, según anunció su jefe de Seguridad Global, Antigone Davis, a través del la Inteligencia Artificial (IA).

La publicación de imágenes con contenido sexual como forma de venganza hacia otros usuarios es uno de los tantos problemas a los que se está enfrentando Facebook. Lo que hará, según anunció su jefe de Seguridad Global, Antigone Davis, a través del la Inteligencia Artificial (IA).

Según comentaba en su blog Davis, la red social trabaja en la detección de este tipo de contenido a través del la IA y el machine learning. El objetivo es hallar las imágenes y videos para retirarlas incluso antes de que existan denuncias.

La información ha sido dada a conocer sin aportar mayores detalles de cómo funciona. Lo que si han explicado es que se usarán el ‘machine learning’ y la inteligencia artificial para “detectar de forma proactiva imágenes cercanas al desnudo o vídeos que se comparten sin permiso”.

Según explican desde la plataforma, lo complicado de este tipo de acoso cibernético reside en que en muchas ocasiones las víctimas no se atreven a denunciar. Incluso hay quienes no están al tanto de la situación y no saben que ese contenido privado está publicado.

De allí la idea de eliminarlo lo antes posible y evitar más consecuencias desagradables para las víctimas.

La herramienta propuesta, marcaría como negativo el contenido sexual publicado, una vez identificado y luego éste será revisado por personal especializado.

Una vez que se compruebe que no cumple con las reglas se eliminará y la cuenta del usuario que lo publicó será desactivada, en la gran mayoría de los casos como señalan desde el blog.

Para ayudar a las víctimas

Como parte esta estrategia de la lucha contra el porno de la venganza, se ha anunciado la expansión de un programa piloto en varios países en los próximos meses.

Existe desde 2017 y busca ayudar a los usuarios a evitar convertirse en víctimas de este tipo de agresiones online.

El propósito es que quienes crean que algún contenido privado podría ser usado para extorsionarles o ser parte del porno de venganza, puedan enviar la imagen que podrían usar para ello.

La reciben asociaciones que trabajan para la plataforma y que de forma conjunta logran que después de ‘reconocer’ la imagen se le asigne un código de identificación para que no pueda ser publicada. Se trata de almacenar este identificador, no la imagen.

Adicional a esto, según explicó Davis que lo que ya es una realidad para los usuarios afectados es una plataforma llamada “no sin mi consentimiento”.

Su objetivo es prestar apoyo a las víctimas durante el proceso de denuncia, para evitar la sensación de desamparo, el desconocimiento y falta de asistencia a la que se enfrentan en muchas ocasiones.

 

Obtén un més gratis a Merca2.0 premium

Cancela en cualquier momento
Acceso exclusivo a rankings y radiografías.
Análisis profundos y casos de estudio de éxito.
Historial de la revista impresa en formato digital.

¡Disfruta de lo mejor del marketing sin costo alguno por un mes!

Más de 150,000 mercadólogos inscritos en nuestros boletín de noticias diarias.

Premium

Populares

Únete a más de 150,000 lectores

Regístrate a nuestro newsletter en la siguiente forma y recibe a primera hora las noticias más importantes de mercadotecnia, publicidad y medios en tu correo.

Más de Merca2.0

Artículos relacionados

You don't have credit card details available. You will be redirected to update payment method page. Click OK to continue.