Una empresa de tutoría con sede en China acordó resolver la novedosa demanda de una agencia del gobierno de EE. UU. que afirma que utilizó un software de contratación impulsado por inteligencia artificial para eliminar ilegalmente a los solicitantes de empleo de mayor edad.
La demanda de 2022 contra iTutorGroup Inc fue la primera de la Comisión de Igualdad de Oportunidades en el Empleo (EEOC, por sus siglas en inglés) de EE. UU. que involucra el uso de IA por parte de una empresa para tomar decisiones de empleo.
La comisión, que hace cumplir las leyes de sesgo en el lugar de trabajo, lanzó en 2021 una iniciativa para garantizar que el software de inteligencia artificial utilizado por los empleadores estadounidenses cumpla con las leyes contra la discriminación. La EEOC ha advertido que centrará los esfuerzos de cumplimiento en las empresas que hacen un mal uso de la IA.
ITutorGroup acordó pagar 365.000 dólares a más de 200 solicitantes de empleo supuestamente ignorados debido a su edad, según una presentación conjunta realizada el miércoles en un tribunal federal de Nueva York. El acuerdo debe ser aprobado por un juez federal.
La empresa, que brinda tutoría en inglés a estudiantes en China, negó haber actuado mal en el acuerdo.
La EEOC había alegado que iTutorGroup en 2020 programó un software de reclutamiento en línea para descartar mujeres de 55 años o más y hombres de 60 años o más.
ITutorGroup, una unidad de Ping An Insurance Group Co de China, no respondió de inmediato a una solicitud de comentarios. Un portavoz de la EEOC dijo que la agencia no haría comentarios hasta que se apruebe el acuerdo.
Según encuestas recientes, al menos el 85 % de los grandes empleadores de EE. UU. utilizan IA en algunos aspectos del empleo .
Eso incluye software que filtra a los solicitantes de empleo antes de que un humano revise cualquier solicitud, «chatbots» de recursos humanos y programas que realizan revisiones de desempeño y hacen recomendaciones para promociones.
Muchos defensores de los trabajadores y legisladores están preocupados por la posibilidad de que los sesgos existentes se integren en el software de IA, incluso sin querer.
En una demanda colectiva propuesta pendiente en un tribunal federal de California, se acusa a Workday de diseñar un software de contratación utilizado por decenas de grandes empresas que excluye a los solicitantes negros, discapacitados y mayores. Workday ha negado haber actuado mal.
Los expertos esperan un número creciente de demandas que acusen a los empleadores de discriminar a través del uso de software de IA.
