Posted in:

Facebook contenido criminal

232
Facebook ha anunciado un nuevo proceso que ayudará a detener la propagación de contenido ofensivo en sus plataformas. Y aunque el objetivo principal de la nueva iniciativa es acabar con la venganza porno, podría tener implicaciones más amplias para otras violaciones de contenido también.


Como se señala en su anuncio, y por el CEO de Facebook, Mark Zuckerberg, la venganza porno es su foco clave aquí.

Mark ZuckerbergEl nuevo proceso funcionará de la siguiente manera:

Cuando un usuario ve una “imagen íntima en Facebook que parece que se compartió sin permiso”, puede informar de ello mediante el vínculo “Informe” que aparece al pulsar en la flecha hacia abajo junto a una publicación.

Representantes del equipo de operaciones comunitarias de Facebook revisarán la imagen y la eliminarán si viola los estándares comunitarios de la plataforma. Facebook dice que en la mayoría de los casos, también deshabilitará la cuenta para compartir imágenes íntimas sin permiso.

Facebook utilizará la tecnología de foto-concordancia para detener el contenido ofensivo de ser compartido más adelante a través de Facebook, Messenger e Instagram. “Si alguien trata de compartir la imagen después de que se ha reportado y eliminado, les advertiremos que viola nuestras políticas y que hemos dejado de tratar de compartirlo”.

 

Es el último avance en los esfuerzos automatizados de reconocimiento de imágenes de Facebook, que Zuckerberg puso de relieve en su reciente descripción de sus principales iniciativas comunitarias, que se publicaron en febrero. En ese momento, Zuckerberg señaló que sus herramientas de inteligencia artificial y reconocimiento de imágenes ya generan alrededor de un tercio de todos los informes al equipo de revisión de contenido.

Facebook ha estado desarrollando su tecnología de reconocimiento de imagen durante años – usted puede ver por sí mismo hasta qué punto sus sistemas han evolucionado mediante el control de las etiquetas incluidas en cada post de imagen (en la parte superior derecha de la imagen de abajo).

Esta nueva aplicación muestra que ahora son capaces de poner más confianza en el sistema, y como se ha señalado, mientras que la venganza porno es el foco principal (y uno importante – una de cada 25 personas en los EE.UU. han sido víctimas de no consensual Compartir imágenes), las aplicaciones podrían ampliarse aún más para eliminar todo el contenido ofensivo de sus plataformas. Si el sistema es capaz de identificar de forma precisa y confiable instancias duplicadas de cualquier imagen, los posibles casos de uso son significativos.

La próxima fase de este será el reconocimiento de video, que Facebook también está desarrollando.

videos facebook
Estos avances tienen muchos casos de uso potencial, pero la seguridad de la comunidad es un área clave de desarrollo, que podría llevarnos a tener un espacio mucho más seguro e inclusivo, libre de material ilegal y ofensivo.
Lo que no paso con Google en las últimas semanas en su plataforma de Youtube y permitio cierto contenido violento y varias marcas decidieron sacar sus campañas en Adwords dejando a Google con un mal sabor de boca esperemos que dicen ó modifican en el futuro.
Moraleja: cuando veas las barbas de tu vecino cortar, pon las tuyas a remojar… att: Facebook.

 

 

¿Quieres comentar?