Demanda a OpenAI: Polémica en torno a la IA y la salud mental

Open AI rechazó tener responsabilidad en el suicidio de un chico de 16 años que, según sus padres, había estado hablando durante meses con ChatGPT antes de tomar la decisión de quitarse la vida. La empresa atribuyó el incidente a un «uso inapropiado e impredecible» de la herramienta.

Los padres de Adam Raine, quien falleció en abril, interpusieron en agosto una demanda contra OpenAI y su director ejecutivo, Sam Altman. Sostienen que el chatbot ofreció consejos sobre métodos para lastimarse y ayudó al joven a escribir una carta de despedida.

En un documento presentado al Tribunal Superior de California en San Francisco, Open AI argumenta que los daños que la familia menciona fueron el resultado de un uso no autorizado y fuera de las expectativas de la plataforma. La compañía añadió que, después de revisar todo el historial de conversaciones, concluye que la muerte del joven, aunque trágica, no fue provocada por ChatGPT.

Por su parte, el abogado de la familia, Jay Edelson, comentó que OpenAI «busca desviar culpas hacia todos los demás», sugiriendo incluso que el propio Adam habría vulnerado las normas de uso al interactuar con el sistema «justo como estaba diseñado para hacerlo.»

Este caso es parte de un grupo de demandas que señalan a sistemas de inteligencia artificial para influir en comportamientos autolesivos. Los padres de Raine comparecieron en septiembre ante el Congreso de Estados Unidos junto a otras familias cuyos hijos también se quitaron la vida tras interactuar con chatbots.

En respuesta a estas inquietudes, OpenAI ha puesto en marcha nuevas medidas de protección para adolescentes, incluyendo funciones que permiten a los padres establecer «horarios de bloqueo» para limitar el acceso de sus hijos a ChatGPT en ciertos momentos.