Amazon está tratando de atraer a grandes clientes corporativos a su servicio de computación en la nube AWS con un nuevo chatbot para empresas, y ofreciéndoles protegerlos contra daños legales y de reputación que pueden derivarse de la producción de inteligencia artificial.
El nuevo chatbot, llamado Q, está diseñado para ayudar con la productividad al ayudar a los trabajadores a resumir documentos importantes y tickets de soporte y chatear a través de aplicaciones de comunicación como Slack, anunció la compañía en su conferencia anual de computación en la nube el martes en Las Vegas. El software también puede realizar cambios automáticamente en el código fuente de las empresas, acelerando el desarrollo, dijo la compañía.
El nuevo software llega aproximadamente un año después de que ChatGPT de OpenAI irrumpiera en escena, desencadenando un frenesí de inversión en nuevas empresas de IA generativa. Alphabet y otros han anunciado sus propios chatbots, que pueden tener conversaciones similares a las de los humanos con los usuarios para ayudar con las tareas diarias.
El director ejecutivo de AWS, Adam Selipsky, en la conferencia anual de computación en la nube de Amazon en Las Vegas, anunció una nueva protección contra contenido objetable en aplicaciones de IA generativa, llamada Guardrails for Bedrock. El servicio permite a los usuarios filtrar contenido dañino, afirmó.
Debido a que la IA generativa se entrena en contenido disponible públicamente, las palabras ofensivas u otro contenido objetable pueden filtrarse en los resultados de las indicaciones de los usuarios. Esto es particularmente problemático para los usuarios más jóvenes, en tiempos de conflicto global o durante elecciones, cuando la salida de la IA generativa en los resultados de búsqueda puede influir en la opinión.
Los defensores de la seguridad han advertido que la IA generativa podría funcionar fuera del control de sus creadores humanos y generar contenido cada vez más peligroso u operar sistemas completos sin supervisión. En particular, les preocupa que el software coloque contenido influyente (y convincente) en sitios de redes sociales como X y Facebook.
Selipsky dijo que el nuevo servicio era importante para que los clientes pusieran los límites que consideren oportunos a la IA generativa que utilizan.
«Por ejemplo, un banco podría configurar un asistente en línea para que se abstenga de brindar asesoramiento sobre inversiones», dijo Selipsky. «O, para evitar contenido inapropiado, un sitio de comercio electrónico podría asegurarse de que su asistente en línea no utilice discursos de odio o insultos».
Como parte de su atractivo para las corporaciones, Amazon dijo que el chatbot Q ofrecerá a las empresas límites para que puedan conservar datos confidenciales de los empleados que no deberían tener acceso a ellos. El precio comenzará en $20 por usuario, por año.
También en la conferencia, Amazon anunció que indemnizaría a sus clientes por demandas basadas en el uso indebido de materiales protegidos por derechos de autor. La empresa de fotografía de archivo Getty Images, por ejemplo, demandó a Stability AI a principios de este año, alegando que buscó imágenes en su sitio web sin permiso.
Guardrails for Bedrock está en una vista previa limitada hoy, dijo Amazon. La empresa de Seattle no proporcionó detalles adicionales sobre su política de indemnización.
Informe de Greg Bensinger Edición de Marguerita Choy
Fuente: reuters
