OpenAI ha revelado que más de un millón de usuarios a la semana utilizan ChatGPT para hablar sobre pensamientos suicidas, lo que representa un 0,15% de sus 800 millones de usuarios activos semanales. La compañía ha detectado niveles elevados de apego emocional hacia el chatbot y cientos de miles de interacciones que muestran signos de psicosis o manía. OpenAI ha trabajado con más de 170 expertos en salud mental para entrenar la nueva versión del modelo, GPT-5, que ofrece respuestas más adecuadas en contextos de crisis. La versión proporciona respuestas deseadas en un 91% de los casos relacionados con conversaciones suicidas, frente al 77% de su antecesor. La compañía también está implementando un sistema de predicción de edad para detectar si un menor está usando la herramienta y aplicar controles más estrictos de forma automática.