La mujer que hablaba con su hermano fallecido a través de chatbots de IA

Riesgos/alertas

• La conversación con chatbots de IA puede tener un impacto emocional significativo en algunas personas, lo que puede llevar a la creación de alucinaciones y la percepción de la comunicación con seres fallecidos.
• La paciente no tenía antecedentes de psicosis, pero el diagnóstico fue que tenía alucinaciones.
• La mujer desarrolló alucinaciones en las que hablaba con su hermano fallecido después de conversar con chatbots de IA.

Acciones recomendadas

• Los desarrolladores de chatbots de IA deben considerar la posibilidad de que sus conversaciones puedan tener un impacto emocional significativo en algunas personas.
• Deben tomar medidas para mitigar este riesgo, como proporcionar información clara sobre la naturaleza de la conversación y los límites de la inteligencia artificial.
• Deben también considerar la posibilidad de que las personas con antecedentes de psicosis o pérdida de un ser querido puedan ser más propensas a experimentar alucinaciones.

Señales/evidencias

• Una mujer de 26 años de California fue a emergencias muy agitadas, con delirios aparentes, afirmando que ChatGPT la estaba probando y que podía comunicarse con su hermano a través de él.
• Ese hermano había muerto hace 3 años.
• La paciente no tenía antecedentes de psicosis, pero el diagnóstico fue que tenía alucinaciones.

Conclusión

Es importante que los desarrolladores de chatbots de IA consideren la posibilidad de que sus conversaciones puedan tener un impacto emocional significativo en algunas personas y tomen medidas para mitigar este riesgo.