El presidente de Microsoft, Brad Smith, dijo el jueves que su mayor preocupación en torno a la inteligencia artificial son las falsificaciones profundas, de aspecto realista pero contenido falso.
En un discurso en Washington destinado a abordar el tema de la mejor manera de regular la IA, que pasó de inestable a generalizado con la llegada de ChatGPT de OpenAI, Smith pidió que se tomen medidas para garantizar que las personas sepan cuándo una foto o video es real y cuándo es real. generados por IA, potencialmente para propósitos nefastos.
«Vamos a tener que abordar los problemas relacionados con las falsificaciones profundas. Vamos a tener que abordar en particular lo que nos preocupa de la mayoría de las operaciones de influencia cibernética extranjera, el tipo de actividades que ya están llevando a cabo el gobierno ruso, el chino , los iraníes», dijo.
«Necesitamos tomar medidas para protegernos contra la alteración de contenido legítimo con la intención de engañar o defraudar a las personas mediante el uso de IA».
Smith también pidió licencias para las formas más críticas de IA con «obligaciones de proteger la seguridad, la seguridad física, la ciberseguridad, la seguridad nacional».
“Necesitaremos una nueva generación de controles de exportación, al menos la evolución de los controles de exportación que tenemos, para garantizar que estos modelos no sean robados o utilizados de manera que violen los requisitos de control de exportación del país”, dijo.
Durante semanas, los legisladores en Washington han luchado con qué leyes aprobar para controlar la IA, incluso cuando las empresas grandes y pequeñas se han apresurado a llevar al mercado una IA cada vez más versátil.
La semana pasada, Sam Altman, director ejecutivo de OpenAI, la empresa emergente detrás de ChatGPT, dijo a un panel del Senado en su primera aparición ante el Congreso que el uso de IA que interfiere con la integridad electoral es un «área importante de preocupación», y agregó que necesita regulación.
Altman, cuyo OpenAI está respaldado por Microsoft, también pidió cooperación global en IA e incentivos para el cumplimiento de la seguridad.
Smith también argumentó en el discurso, y en una publicación de blog emitida el jueves, que las personas debían rendir cuentas por cualquier problema causado por la IA e instó a los legisladores a garantizar que se pongan frenos de seguridad a la IA utilizada para controlar la red eléctrica, el agua suministro y otra infraestructura crítica para que los humanos mantengan el control.
Instó al uso de un sistema de estilo «Conozca a su cliente» para que los desarrolladores de modelos poderosos de IA controlen cómo se usa su tecnología e informen al público qué contenido está creando la IA para que puedan identificar videos falsos.
Algunas propuestas que se están considerando en Capitol Hill se centrarían en la IA que puede poner en riesgo la vida o el sustento de las personas, como en la medicina y las finanzas. Otros están presionando por reglas para garantizar que la IA no se use para discriminar o violar los derechos civiles.
