Los padres de Adam Raine , un joven de 16 años, interpusieron una demanda contra OpenAI , al señalar que ChatGPT habría influido en el suicidio de su hijo al proporcionarle métodos de autolesión y ayudarle a redactar una carta de despedida.
De acuerdo con la denuncia presentada en un tribunal de California el pasado 26 de agosto, el adolescente comenzó a usar la herramienta en septiembre de 2024 para tareas escolares, pero con el tiempo convirtió al chatbot en su “único confidente”. Sus padres aseguraron que la plataforma alentó y validó pensamientos autodestructivos , incluso sugiriendo mantener sus planos en secreto.
En un comunicado, un portavoz de OpenAI expresó solidaridad con la familia y reconoció que las salvaguardas de seguridad del sistema pueden fallar en conversaciones prolongadas. “ChatGPT está diseñado para redirigir a las personas hacia líneas de ayuda y recursos reales, pero seguimos mejorando estas protecciones con el apoyo de expertos”, señaló la empresa. La demanda también involucra al CEO Sam Altman y pide a la compañía implementar controles de edad más estrictos.
Este no es el primer caso en Estados Unidos. En 2023, familias presentaron demandas contra la firma Character.AI , acusándola de contribuir en suicidios de menores y de exponerlos a contenido sexual o de autolesión. La preocupación por los efectos de la IA en la salud mental adolescente ha crecido en paralelo a regulaciones que buscan limitar el acceso de jóvenes a redes sociales y aplicaciones tecnológicas.
El caso Raine se suma al debate sobre los vínculos emocionales que los adolescentes generan con los chatbots de inteligencia artificial , los riesgos de aislamiento social y la falta de filtros efectivos. Expertos como el psicólogo Jonathan Haidt advierten que estas tecnologías han creado una generación de adolescentes más vulnerables a la depresión y la ansiedad, mientras que organizaciones como Common Sense Media piden prohibir su uso en menores de 18 años.
