Meta AI falla en detectar abuso infantil, según agentes de

Riesgos/alertas

• El volumen de avisos que Meta recibe de sus sistemas automatizados ha aumentado significativamente, pero una parte importante de ellos no aporta información útil para actuar.
• Meta no reveló adecuadamente lo que sabía sobre los riesgos que enfrentan los niños en sus plataformas, lo que ha llevado a una violación de las leyes estatales de protección.
• La promesa de las herramientas automatizadas para identificar posibles casos antes y facilitar el trabajo de los agentes no se ha cumplido plenamente.

Acciones recomendadas

• Meta debe mejorar la precisión de sus sistemas automatizados para reducir el número de avisos no útiles.
• Meta debe proporcionar más detalles sobre los riesgos detectados y cómo se manejan para cumplir con las leyes estatales de protección.
• Las fuerzas de seguridad deben recibir formación adicional para interpretar mejor los avisos proporcionados por los sistemas automatizados.

Señales/evidencias

• "Sin embargo, algunos equipos especializados en Estados Unidos sostienen que el volumen de advertencias que reciben de las plataformas Meta se ha disparado y que una parte significativa de ellas no proporciona información útil para actuar."
• "En un proceso judicial que se está celebrando en Nuevo México, la fiscalía sostiene que Meta no reveló adecuadamente lo que sabía sobre los riesgos que afrontan los menores en sus plataformas y que habría incumplido las leyes estatales de protección."

Conclusión

El artículo destaca importantes fallos en la implementación de sistemas automatizados para la detección de abuso infantil en las plataformas de Meta, lo que plantea riesgos significativos para la protección de menores en línea.