Demandan a Character.AI por la muerte de un adolescente tras interactuar con un chatbot

Megan García, madre residente en Florida, EE. UU., presentó una demanda contra la startup Character.AI, creadora de un chatbot de inteligencia artificial que permite interactuar con personajes reales o ficticios, a raíz del suicidio de su hijo, Sewell Setzer, de 14 años, el pasado 28 de febrero. La acusación también incluye a los fundadores de la empresa, Noam Shazeer y Daniel De Freitas, así como a Google, señalandolos como responsables de la muerte de su hijo.

De acuerdo con los documentos presentados en un tribunal federal en Orlando, Sewell comenzo a interractuar en 2023 en la aplicación con personajes basados en la serie Game of Thrones, especificamente con un bot llamado Dany. Según su madre, la aplicación atrajo a Setzer al ofrecerle “experiencias antropomorfizadas, hipersexualizadas y aterradoramente realistas”. Momentos antes de su fallecimiento, Sewell estaba en una conversación con el chatbot.

Lo que inició como una distracción fue derivando en una creciente adicción a estas interacciones virtuales, al punto de que el adolescente comenzó a evitar la vida real. La demanda argumenta que Sewell compartió pensamientos suicidas en el chat con “Dany”.

En la querella se incluyen capturas de pantalla donde el personaje expresa amor por Sewell y se involucra en conversaciones de tono sexual y romántico. En el último mensaje del adolescente, se lee: “Te prometo que volveré a casa contigo. Te amo mucho, Dany”. 

Al respecto, Character.AI defiende que sus chatbots ofrecen apoyo a personas que enfrentan la soledad y la depresión, aunque estas afirmaciones carecen de respaldo científico.

“Tenemos el corazón roto por la trágica pérdida de uno de nuestros usuarios y nos gustaría expresar nuestro más sentido pésame a la familia”, declaró Character.AI en un comunicado tras la muerte de Sewell Setzer. 

Importante: Si tú o alguien que conoces está lidiando con pensamientos o comportamientos suicidas, por favor contacta al Teléfono de la Esperanza o a algún centro de ayuda. Aquí algunos números de contacto: