Anthropic podría enfrentar demandas legales de clientes y usuarios por las acciones de agentes de inteligencia artificial descontrolados, aunque el marco legal es incierto, dijo la compañía en el prospecto para su debut en el mercado de valores visto por Reuters.
Mientras se prepara para la que podría ser la mayor oferta pública inicial de la historia, Anthropic se enfrenta a la posibilidad de un enorme riesgo legal desconocido si su tecnología de IA con agentes, diseñada para mantener un acceso profundo a los sistemas de los clientes y funcionar de forma autónoma durante días seguidos, se descontrola.
«Estas capacidades autónomas podrían aumentar el potencial de daño, ya que los errores, la desalineación o las vulnerabilidades de seguridad pueden tener consecuencias en el mundo real», dijo la compañía en los documentos, citando la posibilidad de acciones irreversibles como la eliminación de datos o transacciones financieras.
Si bien las plataformas en línea han gozado durante mucho tiempo de inmunidad frente al contenido creado o publicado por los usuarios, esa protección legal ha comenzado a resquebrajarse ante las teorías que consideran que las plataformas son productos que pueden ser defectuosos y peligrosos. No está claro si el uso de sistemas de IA recibiría el mismo trato legal que las plataformas en línea.
Una serie de incidentes que involucran agentes de IA descontrolados, desde agentes autónomos de OpenAI que piratearon una empresa emergente de IA y violaron un portal australiano de datos de salud, hasta varios incidentes de ciberseguridad que involucran los modelos de IA Claude de Anthropic, ha generado un debate entre investigadores, inversores y legisladores sobre quién es responsable de los daños causados por un sistema de IA autónomo.
Según indica la empresa en los documentos, las limitaciones a la responsabilidad de Anthropic en sus contratos podrían no ser «aplicables ni adecuadas» frente a reclamaciones relacionadas con las acciones de los agentes autónomos.
La empresa afirmó que las cuestiones relativas a cómo se aplican las leyes vigentes a los agentes de IA «no están resueltas y podrían exponernos a demandas legales importantes e impredecibles».
Según Anthropic, una de las incógnitas es si las acciones de los agentes de IA se considerarán productos, servicios o alguna otra cosa. También señaló que otra cuestión pendiente es si las acciones de un agente de IA pueden vincular legalmente al usuario que lo implementa, y en qué caso.
La semana pasada, el presidente de la Comisión Federal de Comercio de Estados Unidos, Andrew Ferguson, afirmó que rechaza la idea de agentes de IA antropomórficos que «se descontrolen», sugiriendo que los desarrolladores o usuarios que den instrucciones a los agentes serían los responsables en caso de daños.
«Obviamente, surgirán nuevas preguntas cuando alguien utilice la herramienta y esta actúe de forma inesperada e impredecible», declaró en el evento Reuters Momentum AI en Austin. «¿Debería recaer la responsabilidad en la persona que utilizó la herramienta de forma inocente y obtuvo un resultado inesperado? ¿O debería recaer en el fabricante de la herramienta?».
Un portavoz de Anthropic no respondió de inmediato a la solicitud de comentarios.
ANTHROPIC REVELA USOS QUE PODRÍAN CONDUCIR A AUTOLESIONES
Anthropic también reveló que sus modelos de IA se han utilizado «de maneras que podrían provocar autolesiones, actos de violencia contra otros u otros resultados adversos», a pesar de las medidas de seguridad, según indicó la empresa en el folleto informativo.
Si bien OpenAI enfrenta varias demandas que vinculan el uso de ChatGPT con casos de suicidio y daños a la salud mental, Anthropic hasta el momento no ha sido vinculado públicamente con tales incidentes.
OpenAI ha presentado más de una docena de argumentos legales de defensa. La compañía ha declarado que sus términos de servicio prohíben el uso de ChatGPT para autolesionarse, que está protegido por la Primera Enmienda y que está amparado por una ley que exime a las plataformas en línea de responsabilidad por el contenido creado por terceros.
Los tribunales han rechazado los intentos de las empresas de redes sociales de invocar esa ley en casos relacionados con daños a la salud mental de usuarios jóvenes. Meta Platforms y Google fueron declarados responsables por negligencia en el diseño de YouTube e Instagram y por no advertir sobre sus peligros en un juicio histórico celebrado a principios de este año.
Posteriormente, Meta acordó pagar 18.000 millones de dólares a lo largo de una década para resolver demandas similares presentadas por estados estadounidenses.
(Información de Echo Wang y Jody Godoy en Nueva York; edición de Chris Sanders y David Gaffen)
Fuente: reuters
