El director ejecutivo de OpenAI, la startup detrás de ChatGPT, dijo el martes a un panel del Senado que el uso de inteligencia artificial para interferir con la integridad electoral es un «área importante de preocupación», y agregó que necesita regulación.
«Estoy nervioso por eso», dijo el director ejecutivo Sam Altman sobre las elecciones y la IA, y agregó que se necesitan reglas y pautas.
Durante meses, las empresas grandes y pequeñas se han apresurado a llevar al mercado una IA cada vez más versátil, arrojando datos interminables y miles de millones de dólares al desafío. Algunos críticos temen que la tecnología exacerbe los daños sociales, entre ellos los prejuicios y la desinformación, mientras que otros advierten que la IA podría acabar con la humanidad misma.
«No hay forma de poner a este genio en la botella. A nivel mundial, esto está explotando», dijo el senador Cory Booker, uno de los muchos legisladores con preguntas sobre la mejor manera de regular la IA.
La senadora Mazie Hirono señaló el peligro de la desinformación a medida que se acercan las elecciones de 2024. «En el contexto electoral, por ejemplo, vi una foto del expresidente Trump arrestado por la policía de Nueva York y se volvió viral», dijo, presionando a Altman sobre si consideraría dañina la imagen falsa.
Altman respondió que los creadores deben dejar en claro cuándo se genera una imagen en lugar de un hecho.
Hablando ante el Congreso por primera vez, Altman sugirió que, en general, EE. UU. debería considerar los requisitos de licencia y prueba para el desarrollo de modelos de IA.
Altman, cuando se le pidió que opinara sobre qué IA debería estar sujeta a licencia, dijo que un modelo que pueda persuadir o manipular las creencias de una persona sería un ejemplo de un «gran umbral».
También dijo que las empresas deberían tener derecho a decir que no quieren que sus datos se utilicen para el entrenamiento de IA, que es una idea que se está discutiendo en Capitol Hill. Altman dijo, sin embargo, que el material en la web pública sería un juego justo.
Altman también dijo que «no diría nunca» a la idea de la publicidad, pero que prefería un modelo basado en suscripción.
La Casa Blanca ha convocado a los principales directores ejecutivos de tecnología, incluido Altman, para abordar la IA. Los legisladores estadounidenses también están buscando acciones para promover los beneficios de la tecnología y la seguridad nacional al mismo tiempo que limitan su uso indebido. El consenso está lejos de ser seguro.
Un miembro del personal de OpenAI propuso recientemente la creación de una agencia estadounidense de licencias para la IA, que podría llamarse Oficina para la Seguridad de la IA y la Seguridad de la Infraestructura, u OASIS, informó Reuters .
OpenAI está respaldado por Microsoft Corp. Altman también está pidiendo una cooperación global en IA e incentivos para el cumplimiento de la seguridad.
Christina Montgomery, directora de privacidad y confianza de International Business Machines Corp, instó al Congreso a centrar la regulación en áreas con el potencial de causar el mayor daño social.
