La Inteligencia Artificial se ha convertido en un recurso para consultas sensibles, y los datos recientes de OpenAI lo confirman. El director ejecutivo de la compañía, Sam Altman, indicó que ChatGPT cuenta con aproximadamente 800 millones de usuarios activos cada semana.
Basándose en sus análisis, OpenAI determinó que el 0.15% de estos usuarios activos semanales mantienen conversaciones que reflejan indicios claros de posible intención o planificación suicida. Esta proporción se traduce en un estimado de 1.2 millones de personas que envían mensajes de riesgo a la herramienta cada semana.
El protocolo de seguridad y el papel de los especialistas
OpenAI ha tomado medidas específicas para abordar este volumen de interacciones delicadas. La compañía estableció una Red Global de Médicos compuesta por casi 300 profesionales (médicos y psicólogos) de 60 países diferentes.
Más de 170 de estos especialistas colaboraron activamente en los últimos meses para redactar respuestas apropiadas, analizar el contenido generado por el modelo y evaluar la seguridad de las interacciones.
El objetivo es entrenar a ChatGPT para que sus respuestas en temas sensibles sean más objetivas, claras y responsables, y, en casos de crisis, promover la conexión con ayuda profesional real.
Otros riesgos de salud mental identificados
Además de las conversaciones sobre suicidio, OpenAI también se enfocó en cuantificar otros síntomas de riesgo en la salud mental, especialmente aquellos relacionados con emergencias:
- Psicosis y Manía: La compañía estima que alrededor del 0.07% de los usuarios activos semanales (y el 0.01% de los mensajes totales) muestran posibles señales de emergencias de salud mental relacionadas con psicosis o manía.
- Dependencia Emocional: OpenAI también monitorea patrones de apego excesivo a ChatGPT, diferenciando el uso saludable de cuando las personas descuidan sus responsabilidades o entorno social por la herramienta. Se calcula que el 0.15% de los usuarios activos semanales reflejan posibles niveles altos de apego emocional al chatbot.
Los expertos consultados por OpenAI confirmaron que, bajo el nuevo modelo GPT-5, el sistema ha mejorado sustancialmente en la gestión de temas de salud mental, con una reducción del 39% al 52% en las respuestas no deseadas en todas las categorías de riesgo.
Nota Importante: Si usted o alguien que conoce está experimentando una crisis de salud mental o pensamientos suicidas, por favor, comuníquese de inmediato con líneas de ayuda o servicios de emergencia locales.