Meta lanzó el martes un asistente de IA largamente anunciado que puede enviar correos electrónicos de forma autónoma, vender un automóvil y reservar viajes en nombre de una persona, a pesar de las preocupaciones internas de que la tecnología maneja mal su acceso a datos personales sensibles.
El agente Muse de la compañía, conocido internamente como Hatch, es la pieza central del plan del director ejecutivo Mark Zuckerberg para ofrecer «superinteligencia personal» a los miles de millones de personas que utilizan los servicios de Meta a diario.
El producto estará disponible inicialmente solo en Estados Unidos, a través de una aplicación específica de Muse o del servicio de mensajería WhatsApp de Meta, según anunció la compañía. Meta indicó que planea incorporar el dispositivo a su línea de gafas inteligentes «próximamente», sin dar más detalles.
Según Meta, Muse, basado en el agente de IA de código abierto OpenClaw, está diseñado para acceder a las aplicaciones de una persona en categorías como correo electrónico, calendario, pagos, salud, compras y hogar inteligente. Los usuarios eligen a qué aplicaciones se conecta y pueden revocar el acceso en cualquier momento.
Cada agente de Muse se ejecuta en su propia máquina virtual, una emulación en la nube de un ordenador personal, lo que le permite seguir realizando solicitudes en segundo plano incluso cuando una persona no lo está utilizando activamente.
La sincronización con aplicaciones que contienen los datos reales de una persona aumenta la utilidad potencial del agente, al tiempo que eleva significativamente los riesgos en materia de seguridad y fiabilidad, tanto para los usuarios que le han confiado su información como para otros que puedan verse afectados por un mal comportamiento del agente.
Vishal Shah, vicepresidente de productos de IA en Meta, afirmó que la compañía había retrasado inicialmente el lanzamiento del producto en abril para mejorar su seguridad. Meta determinó que el trabajo adicional le había permitido «superar el umbral» y cumplir con sus requisitos mínimos de seguridad, protección, privacidad, rendimiento del modelo y otras métricas.
«Es imposible decir que nunca habrá un error, pero cada parte de la arquitectura ha sido diseñada para que sea lo más segura, protegida y privada posible», dijo Shah en una entrevista.
LAS PRUEBAS INTERNAS REVELAN RESULTADOS CONTRADICTOS
Esta misma semana, empleados de Meta que estaban probando la herramienta informaron de resultados dispares con Muse: una persona elogió su utilidad para planificar vacaciones, mientras que otras describieron casos en los que se desconectó sin explicación y subió información confidencial sin permiso, según publicaciones internas a las que tuvo acceso Reuters.
Una persona escribió que el producto había sido tan útil para organizar itinerarios y transporte terrestre que se había convertido en «un tercer participante» en una reciente luna de miel de tres semanas en Indonesia.
En otra publicación, un empleado que había configurado Muse para que monitorizara las entradas y otros artículos que se agotan rápidamente informó haber encontrado «muchos modos de fallo que lo hacían poco fiable». El producto dejó de actualizar la página después de unos 15 minutos, ignoró silenciosamente otros errores y, en ocasiones, desactivó la monitorización «sin motivo aparente», dijo la persona.
Andrew Bosworth, director de tecnología de Meta, publicó que constantemente se le cerraba la sesión y tenía que volver a iniciarla, a veces varias veces en cuestión de minutos.
Otros señalaron graves fallos de seguridad, como el de un agente que sorteó las medidas de seguridad para exponer las fotos personales de iCloud de una persona después de que se le pidiera que identificara los juguetes visibles en las fotos de la fiesta de cumpleaños de un niño.
Meta no respondió de inmediato a una solicitud de comentarios sobre los incidentes específicos descritos en las publicaciones internas.
(Información de Katie Paul en Nueva York; Edición de Kenneth Li y Matthew Lewis)
Fuente: reuters
