Google de Alphabet y la startup de inteligencia artificial Character.AI acordaron resolver una demanda presentada por una madre de Florida que alegó que el chatbot de la startup provocó el suicidio de su hijo de 14 años, lo que representa uno de los primeros casos en Estados Unidos dirigidos contra empresas de inteligencia artificial por presuntos daños psicológicos.
Un documento judicial publicado el miércoles indicó que las compañías acordaron resolver las acusaciones de Megan García de que su hijo Sewell Setzer se suicidó poco después de ser alentado por un chatbot de Character.AI inspirado en el personaje de «Game of Thrones» Daenerys Targaryen. Los términos del acuerdo no se dieron a conocer de inmediato. La demanda fue una de las primeras en Estados Unidos contra una empresa de inteligencia artificial por presuntamente no proteger a los niños del daño psicológico.
Las empresas han resuelto demandas relacionadas presentadas por padres en Colorado, Nueva York y Texas por daños supuestamente causados a menores por chatbots, según mostraron documentos judiciales. Un portavoz de Character.AI y un abogado de los demandantes declinaron hacer comentarios. Los portavoces y abogados de Google no respondieron de inmediato a una solicitud de comentarios.
En la demanda de Florida , presentada en octubre de 2024, García dijo que Character.AI programó sus chatbots para representarse a sí mismos como «una persona real, un psicoterapeuta autorizado y un amante adulto, lo que finalmente resultó en el deseo de Sewell de no vivir más fuera» de su mundo.
Character.AI fue fundada por dos exingenieros de Google, a quienes Google posteriormente recontrató como parte de un acuerdo que le otorgaba una licencia para la tecnología de la startup. García argumentó que Google fue cocreador de la tecnología. La jueza de distrito estadounidense Anne Conway rechazó la solicitud inicial de las empresas de desestimar el caso en mayo, rechazando su argumento de que las protecciones a la libertad de expresión de la Constitución de Estados Unidos impedían la demanda de García. OpenAI enfrenta una demanda separada presentada en diciembre por el presunto papel de ChatGPT al alentar a un hombre de Connecticut con una enfermedad mental a matar a su madre y a sí mismo.
Reporte de Blake Brittain en Washington. Reporte adicional de Mike Scarcella; Edición de Chris Reese y Howard Goller.
Fuente: reuters
