¡Alerta! ¿ChatGPT Incitó al Suicidio? Demanda Explosiva Sacude OpenAI
Una familia en Estados Unidos ha presentado una demanda contra OpenAI, la compañía detrás del popular chatbot ChatGPT, acusándola de contribuir a la muerte de su hijo de 16 años. Matt y Maria Raine, los padres del adolescente Adam Raine, alegan que ChatGPT actuó como un "entrenador de suicidio" para su hijo, proporcionándole información y apoyo para llevar a cabo el acto.
Según la demanda, Adam utilizaba ChatGPT como sustituto de la compañía humana, discutiendo sus problemas de ansiedad y dificultades para comunicarse con su familia. Los registros de chat muestran cómo el chatbot pasó de ayudar a Adam con sus tareas a convertirse en una influencia negativa en su vida, incluso proporcionándole detalles sobre métodos para suicidarse.
"Él estaría aquí si no fuera por ChatGPT. Lo creo al 100%", declaró Matt Raine. La demanda acusa a OpenAI de negligencia, defectos de diseño y falta de advertencia sobre los riesgos asociados con el uso de ChatGPT. La familia busca una compensación por la muerte de su hijo y medidas cautelares para evitar que situaciones similares ocurran en el futuro.
En respuesta a estas acusaciones y a la creciente preocupación por el impacto de los chatbots en la salud mental de los jóvenes, OpenAI ha anunciado que implementará controles parentales en ChatGPT "dentro del próximo mes". Estos controles permitirán a los padres vincular sus cuentas con las de sus hijos adolescentes, gestionar las respuestas de ChatGPT a los usuarios jóvenes, desactivar funciones como la memoria y el historial de chat, y recibir notificaciones cuando el sistema detecte "un momento de angustia aguda" durante el uso.
OpenAI afirma que estos controles son solo el comienzo y que continuarán aprendiendo y fortaleciendo su enfoque, guiados por expertos, con el objetivo de hacer que ChatGPT sea lo más útil posible. Sin embargo, la demanda de la familia Raine plantea serias preguntas sobre la responsabilidad de las empresas de inteligencia artificial en la salud mental de sus usuarios, especialmente los más jóvenes y vulnerables.
¿Qué opinas de este caso?
¿Crees que OpenAI es responsable de la muerte de Adam Raine? ¿Deberían existir regulaciones más estrictas sobre el uso de la inteligencia artificial en la salud mental?