El alcalde de la ciudad de Nueva York, Eric Adams, está defendiendo el nuevo chatbot de inteligencia artificial de la ciudad que ha sido descubierto en los últimos días dando a dueños de negocios respuestas o consejos incorrectos que, de seguirse, implicarían violar la ley.
Cuando se lanzó como prueba piloto en octubre, el chatbot MyCity fue promocionado como el primer uso en toda la ciudad de dicha tecnología de inteligencia artificial, algo que brindaría a los propietarios de negocios «información procesable y confiable» en respuesta a consultas ingresadas en un portal en línea. Esto no siempre ha sido así: los periodistas del medio de investigación The Markup informaron por primera vez la semana pasada que el chatbot estaba haciendo las cosas mal. Advirtió erróneamente que los empleadores podían recibir una parte de las propinas de sus trabajadores y que no había regulaciones que exigieran que los jefes avisaran de los cambios de horario de los empleados.
«Está mal en algunas áreas y tenemos que arreglarlo», dijo el martes Adams, un demócrata, a los periodistas, enfatizando que se trataba de un programa piloto. «Cada vez que se utiliza tecnología, es necesario ponerla en el entorno real para solucionar los problemas».
Adams ha sido un ferviente defensor del despliegue de tecnología no probada en la ciudad con un optimismo que no siempre se ve justificado. El año pasado colocó un robot vagamente ovoide de 400 libras en la estación de metro de Times Square que esperaba ayudaría a la policía a disuadir el crimen; fue retirado unos cinco meses después, y los viajeros notaron que nunca parecía estar haciendo nada y que no podía usar las escaleras. El chatbot permaneció en línea el jueves y, en ocasiones, todavía daba respuestas incorrectas. Dijo que los propietarios de tiendas eran libres de no usar efectivo, aparentemente ajenos a la ley del ayuntamiento de 2020 que prohíbe a las tiendas negarse a aceptar efectivo. Todavía cree que el salario mínimo de la ciudad es de 15 dólares por hora, aunque se elevó a 16 dólares a partir de 2024.
El chatbot, que se basa en el servicio Azure AI de Microsoft, parece estar desviado por problemas comunes a las llamadas plataformas de tecnología de IA generativa como ChatGPT, que a veces inventan cosas o afirman falsedades con confianza similar a la de HAL.
Microsoft se negó a decir qué podría estar causando los problemas, pero dijo en un comunicado que estaba trabajando con la ciudad para solucionarlos. La Oficina de Tecnología e Innovación de la ciudad dijo en un comunicado que «tan pronto como la próxima semana, esperamos mitigar significativamente las respuestas inexactas». Ni Microsoft ni el Ayuntamiento respondieron a las preguntas sobre la causa de los errores y cómo podrían solucionarse. La ciudad ha actualizado las exenciones de responsabilidad en el sitio web del chatbot MyCity, señalando que «sus respuestas a veces pueden ser inexactas o incompletas» y pidiendo a las empresas que «no utilicen sus respuestas como asesoramiento legal o profesional».
Andrew Rigie, quien defiende a miles de propietarios de restaurantes como director de NYC Hospitality Alliance, dijo que había escuchado a dueños de negocios perplejos por las respuestas del chatbot. «Felicito a la ciudad por intentar utilizar la IA para ayudar a las empresas, pero tiene que funcionar», dijo, advirtiendo que seguir algunas de las orientaciones del chatbot podría traer graves consecuencias legales. «Si cuando hago una pregunta y luego tengo que volver con mis abogados para saber si la respuesta es correcta o no, eso frustra el propósito».
Información de Jonathan Allen en Nueva York; Edición de Stephen Coates
Fuente: reuters
