La compañía de inteligencia artificial OpenAI publicó recientemente estimaciones internas sobre los riesgos de salud mental detectados en las conversaciones de sus usuarios con ChatGPT. El informe subraya que, si bien son porcentajes mínimos, la escala de la base de usuarios del chatbot los convierte en un problema de salud pública de millones de personas.

El director ejecutivo, Sam Altman, ha situado la base de usuarios activos semanales de ChatGPT en aproximadamente 800 millones. Basado en este número, los hallazgos de OpenAI revelan:

- Alrededor del 0.15% de los usuarios activos tienen conversaciones que incluyen indicadores explícitos de posible planificación o intención suicida. Esto se traduce en cerca de 1.2 millones de personas a la semana.

- Otro 0.07% de los usuarios activos muestra posibles signos de emergencias de salud mental relacionadas con la psicosis o la manía, lo que implica a unas 560 mil personas semanalmente.

- Además, se identificó que aproximadamente el 0.15% de los usuarios activos presenta indicios de apego excesivo o dependencia emocional hacia el chatbot, afectando su bienestar y relaciones personales.

OpenAI ha reconocido la gravedad de la situación y ha trabajado con más de 170 especialistas en salud mental para fortalecer las respuestas de su modelo más reciente, GPT-5. La compañía asegura que GPT-5 fue diseñado para mejorar significativamente el manejo de estas situaciones, logrando:

**- Empatía y Aclaración de la Realidad**: El modelo está entrenado para responder con comprensión emocional, pero evitando reforzar creencias delirantes o falsas percepciones.

**- Reducción de Respuestas Nocivas**: Tras el análisis de más de 1,800 interacciones de riesgo, las evaluaciones demostraron que el nuevo modelo redujo las respuestas inadecuadas entre un 39% y un 52% en las categorías de crisis estudiadas.

OpenAI afirma que estos casos son difíciles de medir con precisión debido a su baja prevalencia. No obstante, la publicación de estas cifras marca un punto de inflexión, obligando a los desarrolladores de IA a priorizar la seguridad psicológica de los usuarios a una escala sin precedentes.

Vía: El Universal.

**https://openai.com/index/strengthening-chatgpt-responses-in-sensitive-conversations/**

El 0.15% de usuarios de ChatGPT presenta riesgo de intención suicid4

Por Julio González2' de lectura

OpenAI revela los riesgos y dice trabajar con 170 expertos para que la IA no apoye ideas falsas de los usuarios.