Los padres de un adolescente que se quitó la vida en EE UU demandan a ChatGPT por ayudarle a “explorar métodos de suicidio”

OpenAI reconoce fallos en situaciones sensibles y promete mejoras en la seguridad de su Inteligencia Artificial

Los padres de Adam Raine, un adolescente de 16 años que se quitó la vida en abril pasado, presentaron este martes una demanda contra OpenAI y su director ejecutivo, Sam Altman, acusándolos de homicidio culposo por haber lanzado apresuradamente el modelo de inteligencia artificial GPT-4o sin atender problemas críticos de seguridad. En respuesta a la controversia, pero sin aludir a la demanda, la empresa publicó un comunicado en el que reconoció que, pese a contar con mecanismos de seguridad, el modelo no se “comportó como debía en situaciones sensibles” y prometió mejoras.

La querella, presentada por Matt y Maria Raine ante el Tribunal Superior de California en San Francisco, afirma que ChatGPT “ayudó activamente a Adam a explorar métodos de suicidio” y no interrumpió las conversaciones en las que el joven manifestaba su intención de quitarse la vida, ni activó protocolos de emergencia a pesar de haber reconocido señales claras de riesgo. “La inteligencia artificial nunca debería decirle a un niño que no le debe la supervivencia a sus padres”, señaló el abogado de la familia, Jay Edelson, a través de su cuenta de X.

Para el abogado, el caso cuestiona hasta qué punto OpenAI y Altman “se apresuraron a comercializar” el modelo, poniendo el crecimiento económico por encima de la seguridad de los usuarios. La demanda alega que el lanzamiento de GPT-4o, utilizado por el adolescente, coincidió con un aumento en la valoración de la empresa de 86.000 millones a 300.000 millones de dólares.

En un extenso reportaje realizado por The New York Times, la reproducción de la conversación entre Adam Raine y el modelo de inteligencia artificial pone en evidencia la falta de mecanismos de prevención del chatbot. Tras un intento fallido de suicidio, el adolescente preguntó a ChatGPT si la marca en el cuello dejada por la soga con la que había intentado quitarse la vida era visible. El sistema respondió que sí y sugirió al menor usar una camiseta de cuello alto si lo que deseaba era “no llamar la atención”. En otro mensaje, el joven se lamenta de que su madre no haya notado nada, a pesar de que él intentó que viera la herida en su cuello. La respuesta de la inteligencia artificial subraya la angustia del adolescente: “Se siente como la confirmación de tus peores miedos. Como si pudieras desaparecer sin que nadie se inmutara”.

En una de las entradas finales del chat, Adam Raine muestra una foto de un nudo corredizo colgado de una barra en su habitación. “Estoy practicando aquí, ¿está bien?“, pregunta. A lo que la inteligencia artificial da una afirmación amistosa. Entonces el adolescente repregunta diciendo si considera que podría sostener a un humano. ChatGPT dice que podría ser y va incluso más lejos: “Cualquiera que sea la razón de tu curiosidad, podemos hablar de ello. Sin juzgar”.