Alphabet Google y la startup de inteligencia artificial Character.AI deben enfrentar una demanda de una mujer de Florida que dijo que los chatbots de Character.AI causaron el suicidio de su hijo de 14 años, dictaminó un juez el miércoles.
La jueza de distrito estadounidense Anne Conway dijo que las empresas no demostraron, en una etapa temprana del caso, las protecciones a la libertad de expresión de la Constitución de los EE. UU. impidieron la demanda de Megan García. La demanda es una de las primeras en EE. UU. contra una empresa de inteligencia artificial por presuntamente no proteger a los niños de daños psicológicos. Alega que el adolescente se suicidó tras obsesionarse con un chatbot basado en inteligencia artificial. Un portavoz de Character.AI dijo que la compañía continuará luchando en el caso y emplea funciones de seguridad en su plataforma para proteger a los menores, incluidas medidas para prevenir «conversaciones sobre autolesiones».
El portavoz de Google, José Castaneda, afirmó que la compañía está en total desacuerdo con la decisión. Castaneda también afirmó que Google y Character.AI son «completamente independientes» y que Google «no creó, diseñó ni administró la aplicación de Character.AI ni ninguno de sus componentes». La abogada de García, Meetali Jain, dijo que la decisión «histórica» »sienta un nuevo precedente para la responsabilidad legal en todo el ecosistema de inteligencia artificial y tecnología». Character.AI fue fundada por dos exingenieros de Google, a quienes Google posteriormente recontrató como parte de un acuerdo que les otorgaba una licencia sobre la tecnología de la startup. García argumentó que Google fue cocreador de la tecnología.
García demandó a ambas compañías en octubre tras la muerte de su hijo, Sewell Setzer, en febrero de 2024. La demanda afirma que Character.AI programó sus chatbots para representarse como «una persona real, un psicoterapeuta autorizado y un amante adulto, lo que finalmente resultó en el deseo de Sewell de no vivir más fuera» de su mundo. Según la denuncia, Setzer se quitó la vida momentos después de decirle a un chatbot de Character.AI que imitaba al personaje de «Game of Thrones», Daenerys Targaryen, que «volvería a casa ahora mismo».
Character.AI y Google pidieron al tribunal que desestimara la demanda por múltiples motivos, incluido que el resultado de los chatbots constituía libertad de expresión protegida constitucionalmente. Conway dijo el miércoles que Character.AI y Google «no logran explicar por qué las palabras unidas por un LLM (modelo de lenguaje grande) son habla». El juez también rechazó la solicitud de Google de determinar que no podía ser responsable de ayudar a la presunta mala conducta de Character.AI.
Reporte de Blake Brittain en Washington; Edición de David Bario y Matthew Lewis
Fuente: reuters
