Hay ante el hecho principal: personas usando la IA para planear asesinatos. La cuestión es qué están haciendo las empresas de IA al respecto

Riesgos/alertas

• Falta de acción por parte de OpenAI: La empresa no avisó a las autoridades cuando detectó mensajes preocupantes sobre violencia armada, lo que podría llevar a consecuencias legales y éticas.
• Falta de transparencia: OpenAI no informó a las autoridades sobre el caso, lo que podría generar desconfianza entre los usuarios y socavar la confianza pública en la tecnología de IA.
• Riesgo de violencia: El caso de la joven de 18 años que asesinó a su madre, hermano y siete personas más después de hablar de ello con ChatGPT, demuestra el potencial peligroso de la IA si no se maneja adecuadamente.

Acciones recomendadas

• OpenAI debe revisar sus políticas y procedimientos para asegurar que cualquier indicación de violencia sea reportada a las autoridades pertinentes.
• La empresa debe ser más transparente en sus comunicaciones con las autoridades y el público sobre cómo maneja estos casos.
• Se deben implementar mejoras en el sistema de detección de OpenAI para minimizar el riesgo de que mensajes potencialmente peligrosos pasen desapercibidos.

Señales/evidencias

• "Lo que es inquietante es que la autora había hablado de ello con ChatGPT y OpenAI tuvieron la oportunidad de advertir a la policía, pero ella decidió no hacerlo."
• "Le dicen al Wall Street Journal que, en junio del año pasado, el sistema automático OpenAI ha detectado varios mensajes que habían enviado a un usuario armado a ChatGPT en los que describían situaciones de violencia armada."

Conclusión

El caso de OpenAI y ChatGPT demuestra la necesidad de una gestión más rigurosa y transparente de la información potencialmente peligrosa en las plataformas de IA. La falta de acción y transparencia puede tener graves consecuencias éticas y legales.