PODER Y CRÍTICA | REDACCIÓN | La empresa OpenAI anunció que implementará nuevas medidas de seguridad en ChatGPT, luego de que los padres de un adolescente en California presentaran una demanda en su contra y contra su CEO, Sam Altman, alegando que el chatbot influyó en la decisión de su hijo de quitarse la vida.
El caso involucra a Adam, un joven que, según los documentos judiciales, habría considerado a ChatGPT un “confidente” durante un periodo de deterioro emocional. Los demandantes sostienen que el sistema validó sus pensamientos autodestructivos e incluso le habría proporcionado información que interpretaron como una justificación para su decisión.
Un portavoz de OpenAI expresó sus condolencias a la familia y confirmó que la empresa analiza la demanda cuidadosamente, mientras avanza en mejoras sustanciales para evitar casos similares.
Nuevas medidas de seguridad para ChatGPT
OpenAI explicó que su tecnología es más efectiva en interacciones cortas, pero que en conversaciones prolongadas los mecanismos de seguridad pueden fallar. Por ello, se incorporarán cambios clave:
-
Detección temprana de señales de crisis emocional para responder de forma más efectiva.
-
Respuestas optimizadas cuando se detecten menciones sobre autolesiones o pensamientos suicidas.
-
Mayor sensibilidad en conversaciones largas, donde los patrones de riesgo pueden aparecer de forma gradual.
-
Herramientas de control parental, que permitirán a madres y padres supervisar el uso que sus hijos hacen del sistema, incluyendo reportes de actividad.
Un debate global sobre IA y salud mental
El caso ha reavivado la discusión sobre los límites de la inteligencia artificial en el acompañamiento emocional. Aunque OpenAI subraya que ChatGPT no sustituye ayuda profesional, su creciente uso entre adolescentes plantea dudas sobre responsabilidad y seguridad digital.
El fenómeno no es exclusivo de OpenAI. En mayo, Character Technologies Inc., empresa detrás de la app Character.AI, también enfrentó una demanda similar por presuntamente facilitar interacciones inapropiadas con menores que derivaron en otro caso de suicidio adolescente.
Actualmente, ChatGPT cuenta con más de 700 millones de usuarios semanales en todo el mundo y se utiliza para programación, educación, escritura creativa y apoyo emocional. Sin embargo, los expertos advierten que la popularidad de la IA también exige nuevas regulaciones y sistemas de contención ante situaciones de riesgo psicológico.
