OpenAI detalló este martes que implementará ajustes en ChatGPT para mejorar la forma en que el sistema maneja “situaciones delicadas”, después de que una familia en EE.UU. presentara una demanda responsabilizando al chatbot por el suicidio de su hijo de 16 años.
Según informó la cadena NBC News, los padres de Adam Raine acusaron a la empresa de que ChatGPT “ayudó activamente” al adolescente a explorar métodos de suicidio. El caso se suma a otros reportados recientemente, donde usuarios habrían discutido ideas de autolesión con chatbots de inteligencia artificial antes de quitarse la vida.
En un blog titulado “Ayudando a las personas cuando más lo necesitan”, OpenAI aseguró que trabaja en nuevas funciones de seguridad. Entre ellas, una actualización de su modelo GPT-5 para reducir la intensidad de las conversaciones y la exploración de alianzas con terapeutas con licencia que puedan atender directamente a los usuarios desde la plataforma. La empresa también analiza formas de conectar a las personas con familiares y amigos, además de controles parentales para supervisar el uso de menores.
El debate refleja un dilema creciente: mientras la inteligencia artificial gana terreno como herramienta de acompañamiento emocional y hasta pseudo-terapia, también crecen los riesgos de que jóvenes y adultos en crisis encuentren en estas plataformas respuestas contraproducentes.
Para la comunidad hispana en EE.UU., donde los adolescentes enfrentan tasas crecientes de ansiedad y depresión, el tema es especialmente sensible. Muchas familias dependen de estas aplicaciones como apoyo educativo o recreativo, lo que refuerza la necesidad de mecanismos de protección que eviten un mal uso en momentos de vulnerabilidad.
A la par de las discusiones sobre seguridad, las grandes tecnológicas impulsan movimientos para frenar regulaciones estrictas. Esta semana, Greg Brockman, presidente y cofundador de OpenAI, respaldó la creación de Leading the Future, un grupo político que buscará evitar leyes consideradas un freno a la innovación en IA.
La tensión entre innovación y responsabilidad vuelve a estar en el centro del debate, con un sector en auge que promete transformar industrias enteras, pero que enfrenta preguntas urgentes sobre sus impactos en la salud mental y el bienestar social.
No te pierdas la cobertura de Comercio TV de la Cumbre InsuranceTech 2025 Aquí
