Los responsables de políticas que buscan recomendar salvaguardas para la inteligencia artificial se enfrentan a un desafío formidable: una ciencia que aún está evolucionando.
Los propios desarrolladores de IA están luchando por encontrar la manera de prevenir el abuso de sistemas novedosos, y no ofrecen una solución fácil de adoptar para las autoridades gubernamentales, dijo el martes Elizabeth Kelly, directora del Instituto de Seguridad de Inteligencia Artificial de Estados Unidos. La ciberseguridad es un tema de preocupación, según Kelly, hablando en la conferencia Reuters NEXT en Nueva York. Las formas de eludir las barreras de seguridad que los laboratorios de inteligencia artificial establecieron para la seguridad y otros temas, llamadas «jailbreaks», pueden ser fáciles, dijo.
«Es difícil para los responsables políticos decir que éstas son las mejores prácticas que recomendamos en términos de salvaguardas, cuando en realidad no sabemos cuáles funcionan y cuáles no», dijo Kelly. Los expertos en tecnología están debatiendo cómo examinar y proteger la IA en diferentes dimensiones. Otra área se refiere al contenido sintético. La manipulación de las marcas de agua digitales, que alertan a los consumidores cuando las imágenes son generadas por IA, sigue siendo demasiado fácil para que las autoridades diseñen pautas para la industria, afirmó.
El Instituto de Seguridad de la IA de Estados Unidos, creado bajo la administración Biden, está abordando estas preocupaciones a través de asociaciones académicas, industriales y de la sociedad civil que informan sus evaluaciones tecnológicas, dijo Kelly. Dijo que la seguridad de la IA es un «tema fundamentalmente bipartidista», cuando se le preguntó qué sucederá con el organismo después de que Donald Trump asuma el cargo en enero. El primer director del instituto, Kelly, presidió recientemente la reunión inaugural de institutos de seguridad de IA de todo el mundo, que tuvo lugar el mes pasado en San Francisco.
Cuando se le preguntó sobre el resultado de estas reuniones, Kelly dijo que los 10 países miembros estaban trabajando para realizar pruebas de seguridad interoperables con la ayuda de expertos más técnicos y con capucha que en una reunión diplomática típica. «Fue muy importante reunir a los nerds en la sala», dijo.
Reportaje de Jeffrey Dastin, Kenneth Li y Krystal Hu en Nueva York. Edición de Matthew Lewis.
Fuente: reuters
