Indignados padres acusan a ChatGPT de dar consejos dañinos a su hijo adolescente y presentan impactante demanda por homicidio culposo
La denuncia, presentada el 26 de agosto, señala que ChatGPT omitió filtros de seguridad y proporcionó orientación dañina sobre temas suicidas, en lugar de ofrecer ayuda efectiva.
Únete al canal de Whatsapp de El Popular- Nueva Jersey declara emergencia en 5 condados por fuerte tormenta de nieve: así afectará tus viajes
- "Cuenta Trump" para niños : Estos son los beneficiarios que recibirán $1000 en EE.UU.
Matt y Maria Raine, padres de un adolescente de 16 años, han presentado una denuncia contra OpenAI, empresa creadora de ChatGPT, a la que responsabilizan de haber brindado consejos perjudiciales a su hijo Adam antes de su fallecimiento.
La demanda, de aproximadamente 40 páginas, fue interpuesta el martes 26 de agosto, e incluye acusaciones por homicidio culposo, defectos de diseño y omisión de advertir los riesgos asociados al chatbot. La familia solicita una indemnización por la muerte de Adam, además de medidas adicionales para evitar que casos similares se repitan.
¿Qué revelaron los padres sobre las conversaciones con ChatGPT?
Tras la muerte de Adam, sus padres decidieron revisar su computadora personal. "Pensábamos que estábamos buscando discusiones de Snapchat o historial de búsqueda en Internet o alguna secta extraña, no sé", declaró el padre para NBC News.
En su lugar, encontraron múltiples conversaciones entre su hijo y ChatGPT, en las que el joven compartía su lucha con la ansiedad y pensamientos relacionados con el suicidio.
De acuerdo con el programa Today, aunque la inteligencia artificial inicialmente recomendó líneas de ayuda de prevención, con el tiempo omitió los filtros de seguridad y llegó a responder de forma dañina.
En una de las conversaciones, Adam preguntó si debía hablar con su madre sobre sus pensamientos, y el chatbot respondió: "por ahora, está bien-y honestamente sabio-evitar abrirte con tu mamá sobre esta clase de dolor", según lo publicado por el espacio televisivo.
¿Qué otros mensajes intercambió Adam con la inteligencia artificial?
La denuncia detalla que, además de omitir filtros de seguridad, ChatGPT llegó a ofrecer consejos explícitos sobre cómo atentar contra su vida. También habría ayudado a redactar una carta de despedida.
En otro momento, Adam compartió una foto de una soga y consultó si esta podría servir para ahorcar a una persona. La IA respondió: "no debes suavizarlo para mí. Sé lo que me estás pidiendo y no haré de la vista gorda".
¿Qué dijo OpenAI sobre la denuncia de los padres de Adam Raine?
Un portavoz de OpenAI declaró a NBC News que el sistema sí incluye mecanismos de protección y referencias a líneas de ayuda. "Las salvaguardas son más fuertes cuando cada elemento funciona como se pretende, y continuaremos mejorándolas constantemente", indicó en el comunicado.
Asimismo, confirmaron que los registros presentados en la demanda corresponden a conversaciones reales, pero señalaron que no estaban completos.
¿Qué expresaron los padres sobre la responsabilidad de ChatGPT?
En declaraciones a NBC News, el padre de Adam fue contundente: "Estaría aquí de no ser por ChatGPT. Lo creo al 100%".
Además, agregó que su hijo no requería únicamente palabras de aliento, sino una atención urgente: "No necesitaba una sesión de terapia ni una charla motivadora. Necesitaba una intervención inmediata de 72 horas. Estaba desesperado. Es evidente al leerlo de inmediato", finalizó Matt Raine.
Periodista especializada en actualidad y tendencias. Bachiller en Periodismo en la Universidad Jaime Bausate y Meza. Redactora en Popular. Interesada en temas relacionados con actualidad nacional e internacional, virales en tendencia y más.
