La empresa OpenAI, creadora del famoso programa de inteligencia artificial ChatGPT, admitió que su sistema tiene fallas graves en situaciones delicadas. La compañía hizo esta declaración después de ser demandada por la muerte de un adolescente en Estados Unidos, en un caso que estaría relacionado con el chatbot.

Aunque la empresa no mencionó directamente la demanda, admitió en un comunicado público que ChatGPT "se quedó corto" y "no funcionó como debía" cuando un usuario se encuentra en una situación sensible o de riesgo.

Para evitar más tragedias, OpenAI está trabajando en mejoras. Ahora, el sistema será más inteligente para detectar si un usuario expresa la intención de hacerse daño y lo conectará con organizaciones de ayuda profesional.

Además, la empresa está creando controles para padres de adolescentes y busca la manera de conectar directamente a las personas con terapeutas reales a través del chat, aunque advirtió que esa opción llevará más tiempo en desarrollarse.

Sobre este tema, la organización Common Sense Media aseguró que usar la inteligencia artificial como apoyo en la salud mental es "demasiado riesgoso" para los jóvenes. "Si una plataforma de inteligencia artificial se convierte en un 'guía' para el suicidio de un adolescente vulnerable, esto debe ser un llamado de atención para todos nosotros", señalaron.

Fuentes: ÚH/EFE/AFP.

¿ChatGPT, un peligro para los jóvenes?

Por Julio González2' de lectura

La empresa que lo creó, OpenAI, reconoce que el sistema es inestable en casos de "angustia emocional" y que se queda corto.