Microsoft Copilot expone fotos íntimas a revisores humanos para evaluar calidad técnica
- Fecha original
- Fecha en Limonatic
404 Media publicó documentos internos que revelan que los contratistas humanos revisan las imágenes y prompts enviados a Copilot de Microsoft para edición con IA sin restricciones de contenido. Estos trabajadores acceden al material sexual y a solicitudes de consentimiento dudoso, lo cual expone una opacidad sistémica en el manejo de datos por parte de la plataforma.
El equipo de producto de Microsoft utiliza este mecanismo de evaluación de calidad para que los contratistas elijan entre dos versiones generadas por Copilot. Su tarea es determinar cuál sigue mejor las instrucciones y mantiene la integridad visual, sin estar contratados para detectar o reportar contenido dañino u ofensivo.
Los revisores describieron solicitudes específicas como acortar faldas de mujeres, agrandar pechos, poner personas en posiciones sexuales y sets de fotos upskirt. También aparecieron prompts con contenido pro-anorexia, lo que llevó a un contratista a cuestionar quién decide que generar contenido sexual sea el objetivo del sistema.
Microsoft remitió al medio sus términos de uso, indicando que usa datos de clientes para mejorar productos y hacer cumplir su código de conducta. Aunque la revisión humana es estándar en la industria, la naturaleza del contenido sensible que llega a los revisores sin censura automática previa abre preguntas legales serias sobre infraestructura para contenido no consensual.
Análisis editorial
Documentos internos revelados por 404 Media exponen una práctica operativa de Microsoft Copilot que prioriza la evaluación técnica sobre la privacidad, permitiendo que contratistas humanos accedan sin censura a las imágenes y prompts sexuales que los usuarios suben para edición con IA. El modus operandi actual expone directamente a terceros a material sensible donde las caras aparecen sin filtrar, creando un riesgo significativo de violación de datos personales bajo una lógica opaca.
El mecanismo de calidad no está diseñado para moderar contenido dañino, sino para validar la fidelidad técnica de los resultados generados. Los contratistas reciben el prompt original junto con dos versiones editadas y deben elegir cuál es mejor, evaluando distorsiones y calidad visual global sin instrucciones para detectar ofensas. Las evidencias documentan solicitudes específicas que incluyen acortar faldas de mujeres, agrandar pechos, colocar personas en posiciones sexuales y sets de fotos 'upskirt', normalizando la exposición a material sexual explícito durante el proceso de entrenamiento del modelo.
Esta práctica genera una asimetría de información crítica entre lo que los usuarios aceptan en los términos de servicio y la realidad de su privacidad. Microsoft cita sus cláusulas para justificar el uso de datos, pero la evaluación humana de prompts con contenido pro-anorexia o sexual sin consentimiento dudoso viola las expectativas de confidencialidad. La normalización de solicitudes dañinas en el flujo de calidad convierte a estas plataformas en infraestructura para contenido no consensual, especialmente preocupante ante la tendencia de adaptar niveles de transparencia según jurisdicción.
El riesgo sistémico trasciende lo legal y cuestiona el diseño ético de las grandes tecnológicas frente al RGPD europeo. Mientras Microsoft se enfoca en expandir la IA masivamente por la economía, ignora que sus propios revisores humanos ven fotos personales sin que los usuarios lo sepan. La solución no es solo actualizar términos, sino implementar filtros automáticos previos y protocolos estrictos de anonimización para evitar que la evaluación técnica comprometa la seguridad y privacidad de los datos sensibles.
Contexto y análisis adicional
Digest
Resumen ejecutivo
- Documentos internos revelan que Microsoft utiliza a contratistas humanos para evaluar la calidad técnica de las imágenes generadas por Copilot sin filtrar previamente el contenido sensible.
- Este proceso expone directamente a terceros a prompts con material sexual y fotografías de usuarios donde los rostros aparecen sin censura facial.
Evidencias
- Los contratistas reciben el prompt original, la foto subida y dos versiones generadas para elegir la mejor, sin instrucciones para detectar contenido dañino.
- Se identificaron solicitudes específicas que incluyen acortar faldas de mujeres, agrandar pechos, colocar personas en posiciones sexuales y sets de fotos 'upskirt'.
- Un revisor cuestionó internamente quién decide que generar pornografía sea un objetivo del producto mientras se le instruye a confiar en sus instintos.
- La empresa Prolific figura como al menos uno de los proveedores que contrata a estos revisores para realizar la evaluación.
Acciones
- Revisar inmediatamente los términos de uso actuales para verificar si el acceso no filtrado a prompts sexuales cumple con las promesas de privacidad hacia los usuarios.
- Implementar una capa de pre-filtrado automático que oculte o redacte contenido sexual y rostros antes de enviarlos a cualquier equipo humano de evaluación.
- Auditar la cadena de suministro de contratistas (como Prolific) para establecer protocolos estrictos de anonimización de datos en tareas de calidad.
Conclusión final
El modelo operativo actual de Microsoft Copilot prioriza la evaluación técnica sobre la privacidad, creando un riesgo significativo de exposición de datos sensibles y contenido sexual a contratistas externos.
Riesgos
Riesgos/alertas
- Exposición de usuarios a contenido sexual y prompts con consentimiento dudoso al ser revisados por contratistas humanos sin censura.
- Violación potencial de la privacidad y expectativas de confidencialidad, ya que los datos se procesan bajo un modelo de 'caja negra' sin transparencia total sobre el uso de datos sensibles.
- Normalización de solicitudes dañinas (ej. contenido pro-anorexia) en el flujo de evaluación de calidad del producto.
Acciones recomendadas
- Revisar y actualizar los términos de servicio para explicitar claramente la revisión humana de prompts de naturaleza sexual o sensible.
- Implementar filtros automáticos previos a la entrega a contratistas humanos que bloqueen o redirijan prompts con contenido sexual explícito o dañino.
- Establecer protocolos de reporte y capacitación específicos para los contratistas sobre cómo manejar y reportar incidentes de contenido no consentido o peligroso.
Señales/evidencias
- Documentos internos revelan que revisores humanos ven imágenes y prompts sin restricciones de contenido sexual.
- Contratistas reportaron prompts para acortar faldas, agrandar pechos, posiciones sexuales y sets 'upskirt'.
- Las instrucciones internas indican a los contratistas que evalúen la calidad técnica incluso cuando la solicitud es sexual.
- Al menos una empresa contratista identificada es Prolific.
- Microsoft cita sus términos de uso para justificar el uso de datos de clientes, incluyendo prompts sexuales.
Conclusión
La práctica actual de Microsoft de utilizar contratistas humanos para evaluar la calidad técnica de las imágenes generadas por Copilot expone a los usuarios a riesgos significativos de privacidad y seguridad, dado que estos revisores acceden sin censura a contenido sexual explícito y prompts dañinos, operando bajo un modelo opaco donde la evaluación de calidad prevalece sobre la moderación ética.
Autor · clanes
Votos · compartir
Las historias descartadas o eliminadas no admiten votos ni reportes.
Sentimiento
Entidades (agregadas)
Hover para ver referencias.Detalles avanzados Timeline y mini scoring
Evolución temporal
-
Enviada
hace 3 semanas · Historia enviada para revisión
-
Último estado
hace 3 semanas · Última actualización registrada
Mini scoring (LScore)
Fuentes
- Fuente principal
-
wwwhatsnew.com
https://wwwhatsnew.com
Comentarios