Home > TECH > Facebook ‘cazará’ los memes con contenido ofensivo o de odio

Facebook ‘cazará’ los memes con contenido ofensivo o de odio

Debido a la cantidad de memes que circulan en las redes, los desarrolladores de Facebook e Instagram crearon a ‘Rosetta’, una herramienta de inteligencia artificial que podrá leer y ubicar el contenido de los memes, imágenes y fotogramas de video.

Rosetta podrá procesar más de mil millones de imágenes por día y su objetivo será detectar los textos con discursos ofensivos o de odio, mejorar la comunicación con los usuarios, la búsqueda de imágenes y los sistemas que determinan los tipos de imágenes que pueden aparecer en el News Feed.

“Comprender el texto que aparece en las imágenes es importante para mejorar la experiencia del usuario, como una búsqueda más relevante o hacer más accesible la información para las personas con discapacidad visual. Leer texto en imágenes es importante para identificar contenido inapropiado o dañino y mantener segura a nuestra comunidad”, explica Facebook en su blog.

De acuerdo con la compañía, Rosetta puede leer desde un texto de una fotografía de un menú hasta letreros de las calles, así como las palabras que aparecen en la ropa y etiquetas de los productos.

“Aunque Rosetta no está dedicada exclusivamente a los memes, su relevancia en Facebook e Instagram los convertirá en un caso de uso importante, especialmente en la detección de material ofensivo en Facebook”, afirman los desarrolladores.

La firma de Zuckerberg dice que el problema de entender el texto en las imágenes es distinto al que se resuelve con el carácter óptico tradicional. “Los sistemas de reconocimiento (OCR) reconocen los caracteres pero no entienden el contexto de la imagen asociada”.

¿Cómo trabajará Rosetta?

Primero, escanea imágenes con texto y luego utiliza el reconocimiento de texto para identificar lo que dice. Después, el sistema interpreta lo significa, según los parámteros de Facebook.

La tecnológica asegura que en un futuro podría aplicar la misma tecnología para comprender el texto que también aparece en videos largos, aunque eso requiere un sistema más complejo.

 

Fuente: El Financiero

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *