Con el objetivo de evitar la propagación del discurso de odio en su plataforma, Facebook está limitando la difusión de mensajes entre los usuarios de Sri Lanka y Myanmar, según anunció el pasado jueves en su blog.
Facebook ha sido centro de críticas en los mercados de Sri Lanka y Myanmar por permitir la difusión y propagación de mensajes violentos contra minorías étnicas. Sus medidas en el pasado han sido calificadas de "insuficientes".
Ahora, Facebook dijo que estaba "agregando fricción" limitando el reenvío de mensajes para los usuarios de Messenger en Sri Lanka. De esta forma, una persona solo podrá compartir un mismo mensaje a un máximo de cinco contactos.
La acción es similar al límite que introdujo Facebook a usuarios de la India. En este mercado asiático, el usuario solo puede reenviar un mensaje a otras cinco personas. En otros mercados del mundo el límite está en 20 contactos.
Usuarios de todo el mundo habían solicitado esta característica también para evitar recibir mensajes en cadena, según explicó el sitio "TechCrunch".
El caso de Sri Lanka se hizo particular luego que en marzo pasado el gobierno tuvo que lidiar con la violencia de una mafia enfocada en el ataque a la minoría musulmana. Un informe de la ONU acusó a la red social de servir de canal para discursos de odio y rumores contra este grupo.
Para evitar "tragedias", el gobierno ceilanés censuró el acceso de lo ciudadanía a los servicios de redes sociales por un periodo breve de tiempo. Facebook espera poner un freno y resguardarse de dejar de funcionar en este país.
- El caso rohingya -
La realidad de la empresa de Mark Zuckerberg en Myanmar es similar. Facebook, así como otras plataformas sociales, enfrentan desde hace un tiempo el reto de lidiar con una violencia que se hace duradera.
Específicamente, Facebook ha sido señalado de permitir que el discurso de odio propague una violencia avivada contra el grupo étnico rohingya.
Las diferentes medidas que la red social emprendió en la comunidad de Myanmar, donde no tiene una oficina y no trabaja ni un solo empleado de la plataforma, han sido insuficientes, según sus críticos.
Ahora, la red social plantea reducir la distribución de contenido a personas que hayan violado de forma sistemática sus estándares comunitarios con publicaciones anteriores.
La tecnología de inteligencia artificial rastreará a estos usuarios para "esconderlos" en la red social con el objetivo, a la vez, de probar este enfoque con miras de expandirlo a otros mercados en el futuro.
La inteligencia artificial buscará reconocer publicaciones con contenido de violencia gráfica y comentarios "potencialmente violentos o deshumanizantes".
"Al limitar la visibilidad de esta manera, esperamos mitigar el riesgo de daños y violencia fuera de línea", escribieron el director de gestión de productos e integridad cívica para Facebook, Samidh Chakrabarti; y la directora de respuesta estratégica, Rosa Birch.
Cuando la empresa identifique a una persona u organización que "directamente promueva o involucre violencia" censurará la cuenta.
CONTEXTO
Ya en el pasado, Facebook prohibió la presencia de grupos armados y cuentas administradas por militares de Myanmar en su plataforma.
Pero también fue criticado por reaccionar lentamente contra la problemática en este país y promover una narrativa falsa que sugería que sus sistemas de inteligencia artificial se "encargarían de todo el trabajo".
Hace un mes, Facebook informó que era capaz de detectar el 65 por ciento del contenido de discursos de odio en su plataforma, el mismo que eliminó de forma proactiva. Estos fueron detectados gracias al reporte de usuarios.
Hasta marzo pasado, la red social afirmó que eliminó 4 millones de mensajes de incitación al odio.
Las acciones en Sri Lanka y Myanmar es un primer paso para evitar ser considerado un canal de odio, una vez más, pues enfrenta desafíos similares en mercados como India, Filipinas e Indonesia -este último incluso restringió el uso de Facebook, Instagram y WhatsApp para contener el flujo de desinformación en mayo.