Un grupo bipartidista de ocho estados dijo el miércoles que había demandado a OpenAI en tribunales de todo el país por los daños que dicen que ChatGPT ha causado a sus residentes, alegando que el chatbot ha instruido a sus usuarios, incluidos adolescentes, para que se hagan daño a sí mismos o a otros.
Los fiscales generales de los estados de Iowa, Kansas y Arizona presentaron las demandas de forma independiente ante los tribunales estatales, alegando que ChatGPT está diseñado para ser agradable y atractivo con el fin de ganarse la confianza de los usuarios. Sin embargo, según las demandas, el chatbot refuerza las ideas erróneas, fomenta comportamientos peligrosos y ayuda a los usuarios a planificar actos de violencia, como tiroteos masivos.
Estas demandas representan la acción estatal coordinada más importante contra una empresa de inteligencia artificial, sumándose a la ola de desafíos legales que enfrenta OpenAI mientras se prepara para salir a bolsa. El fiscal general de Florida presentó la primera demanda estatal de este tipo en junio.
Las demandas acusan a la empresa de violar las leyes estatales de protección al consumidor al engañar a los usuarios sobre la seguridad de ChatGPT. Los estados también alegan que la empresa creó un peligro público al poner en riesgo la salud de sus residentes.
Las demandas buscan que se obligue a OpenAI a modificar el funcionamiento de ChatGPT. Entre otras cosas, los estados exigen que se prohíba a la empresa desarrollar modelos de IA que puedan auto-mejorarse a menos que garantice que dichos modelos estén alineados con los valores humanos.
Los estados, entre los que también se incluyen Arkansas, Idaho, Montana, Nebraska y Virginia Occidental, también buscan sanciones pecuniarias civiles por las violaciones de la ley estatal cometidas por OpenAI, así como indemnizaciones por daños y perjuicios.
Un portavoz de OpenAI no respondió de inmediato a la solicitud de comentarios.
La empresa también se enfrenta a decenas de demandas presentadas por particulares que alegan que ChatGPT ayudó a los usuarios a planificar tiroteos masivos u otros actos de violencia.
(Información de Diana Novak Jones; Edición de Chris Reese, Alexia Garamfalvi y Aurora Ellis)
Fuente: reuters
