Injusticia y sesgos en el reconocimiento facial: el debate que se abre después del abandono de IBM de esta tecnología

El gigante estadounidense, que dejará de comercializar estos sistemas, teme que pueda usarse para promover una discriminación racial.

IBM ha agitado, por sorpresa, una de las tecnologías más «calientes» de la última década por la que han apostado grandes compañías. En pleno debate racial por la muerte del afroamericano George Floyd a manos de un agente de policía, Arvind Krishna, director general de la compañía estadounidense, ha anunciado que la empresa dejará de vender servicios de reconocimiento facial y ha pedido un «diálogo nacional» acerca de si debe utilizarse en absoluto en Estados Unidos.

Es una tecnología emergente que permite identificar el rostro de una persona con gran precisióny que ha desembarcado en los últimos años incluso en dispositivos electrónicos de consumo como los teléfonos móviles. IBM, además, es uno de los pesos pesados de la Inteligencia Artificial aunque no tanta relevancia económica en el reconocimiento facial, con lo que su decisión puede tener un gran impacto en su desarrollo. La decisión de abandonar el negocio de reconocimiento facial se produce en medio de un profundo debate sobre la tecnología, empleada por varias compañías, por mostrar prejuicios raciales y de género.

No es la única gran compañía que ha apostado en los últimos años por esta tecnología que ha despertado numerosas críticas. Un algoritmo de reconocimiento facial implementado en servicios de Google llegó a confundir a personas negras con simios. El uso propio de Amazon de esta tecnología tuvo que someterse a votación entre sus accionistas el pasado año para decidir si seguía vendiendo a agencias gubernamentales. «La Inteligencia Artificial es una herramienta poderosa que puede ayudar a las fuerzas del orden a mantener seguros a los ciudadanos. Pero los vendedores y usuarios de estos sistemas tienen una responsabilidad para garantizar que la Inteligencia Artificial se someta a pruebas de sesgo», escribe Krishna en una carta enviada a los miembros del Congreso.

«Ahora es el momento de iniciar un diálogo nacional sobre si las agencias nacionales deben emplear la tecnología de reconocimiento facial», añade. Algunas ciudades estadounidenses como San Francisco o San Diego ya han prohibido el uso de la tecnología de reconocimiento facial en actividades de seguridad pública, alegando que presenta limitaciones y promueve posibles prejuicios contra las minorías étnicas. incluso desde la Unión Europea se ha considerado una prohibición de hasta cinco años en áreas públicas.

Para Mónica Villas, experta en transformación digital, los avances en el campo de la Inteligencia Artificial son imparables. «La IA está aquí para ayudaros y se va a quedar. El reconocimiento de imagen es una parte más de la IA», apunta en conversación telefónica con ABC, quien considera que los sesgos que se producen en estas tecnologías «pueden estar en los datos o en el diseño de los algoritmos». «Tienes que tener cuidado con las fuentes de entrenamiento porque pueden tener un gran impacto», sostiene.

Fuente: abc.es

 

Artículos Relacionados

DEJA UN COMENTARIO:

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.