Muchos fabricantes de IA están utilizando imágenes ‘sintéticas’ para entrenar a las computadoras en una gama más amplia de personas, tonos de piel, edades u otras características.
La semana pasada, Microsoft dijo que dejaría de vender software que adivina el estado de ánimo de una persona al mirar su rostro. La razón: Podría ser discriminatorio. El software de visión por computadora, que se usa en autos sin conductor y reconocimiento facial, ha tenido problemas durante mucho tiempo con errores que se producen a expensas de las mujeres y las personas de color. La decisión de Microsoft de detener el sistema por completo es una forma de abordar el problema.
Pero hay otro enfoque novedoso que las empresas de tecnología están explorando: entrenar a la IA en imágenes «sintéticas» para que sea menos sesgada. La idea es un poco como entrenar pilotos. En lugar de practicar en condiciones impredecibles del mundo real, la mayoría pasará cientos de horas usando simuladores de vuelo diseñados para cubrir una amplia gama de escenarios diferentes que podrían experimentar en el aire.
Se está adoptando un enfoque similar para entrenar la IA, que se basa en datos cuidadosamente etiquetados para funcionar correctamente. Hasta hace poco, el software utilizado para reconocer a las personas se ha entrenado con miles o millones de imágenes de personas reales, pero eso puede llevar mucho tiempo, ser invasivo y descuidar a grandes sectores de la población.
Ahora, muchos fabricantes de IA están utilizando imágenes falsas o «sintéticas» para entrenar a las computadoras en una gama más amplia de personas, tonos de piel, edades u otras características, lo que esencialmente cambia la noción de que los datos falsos son malos. De hecho, si se usa correctamente, no solo hará que el software sea más confiable, sino que transformará por completo la economía de los datos como el «nuevo petróleo».
En 2015, a Simi Lindgren se le ocurrió la idea de un sitio web llamado Yuty para vender productos de belleza para todo tipo de piel. Quería usar IA para recomendar productos para el cuidado de la piel mediante el análisis de selfies, pero era difícil entrenar un sistema para hacerlo con precisión. Una base de datos popular de 70.000 rostros con licencia de Flickr, por ejemplo, no era lo suficientemente diversa o inclusiva. Mostró vello facial en los hombres, pero no en las mujeres, y ella dice que no había suficientes mujeres ricas en melanina, es decir, de piel más oscura, para detectar con precisión las diversas afecciones de la piel, como el acné o las líneas finas.
Probó el crowdsourcing y obtuvo poco menos de 1000 fotos de rostros de su red de amigos y familiares. Pero incluso eso no fue suficiente.
Luego, el equipo de Lindgren decidió crear sus propios datos para llenar el vacío. La respuesta fue algo llamado GAN.
Las redes antagónicas generales o GAN son un tipo de red neuronal diseñada en 2014 por Ian Goodfellow, un investigador de inteligencia artificial que ahora trabaja en DeepMind de Alphabet. El sistema funciona tratando de engañarse a sí mismo, y luego a los humanos, con caras nuevas. Puede intentar probar su capacidad para distinguir entre una cara falsa y una real en este sitio web creado por académicos de la Universidad de Washington, utilizando un tipo de GAN.
Lindgren usó el método para crear cientos de miles de imágenes fotorrealistas y dice que terminó con «un conjunto de datos equilibrado de personas diversas, con diversos tonos de piel y diversas preocupaciones».
Actualmente, alrededor del 80 por ciento de los rostros en la base de datos de Yuty no son de personas reales, sino imágenes sintéticas que son etiquetadas y revisadas por humanos (3), dice, quienes ayudan a evaluar la creciente precisión de su plataforma.
Lindgren no está sola en su enfoque. Más de 50 nuevas empresas generan actualmente datos sintéticos como servicio, según StartUs Insights, una firma de inteligencia de mercado. Microsoft ha experimentado con él y Google está trabajando con historiales médicos generados artificialmente para ayudar a predecir el fraude de seguros. Amazon.com Inc. dijo en enero que estaba usando datos sintéticos para capacitar a Alexa para superar las preocupaciones de privacidad.
¿Recuerdas cuando las plataformas de Big Tech se encontraron en problemas hace unos años por contratar contratistas para escuchar a clientes aleatorios y entrenar sus sistemas de IA? Los datos ‘falsos’ pueden ayudar a resolverlo.
La tendencia se está volviendo tan generalizada que Gartner estima que el 60 por ciento de todos los datos utilizados para entrenar la IA serán sintéticos para 2024 y eclipsarán por completo los datos reales para el entrenamiento de IA para 2030.
El mercado para hacer imágenes y videos sintéticos se divide aproximadamente en empresas que usan GAN y aquellas que diseñan gráficos 3D desde cero. Datagen Technologies, con sede en Tel Aviv, Israel, hace lo último. Sus animaciones de estilo CGI entrenan sistemas de vagones para detectar la somnolencia.
Históricamente, los fabricantes de automóviles han entrenado sus sensores filmando a actores que fingen quedarse dormidos al volante, dice Gil Elbaz, cofundador de la empresa emergente de datos sintéticos Datagen, pero eso aún conduce a un conjunto limitado de ejemplos.
Los datos falsos no solo se utilizan para entrenar sistemas de reconocimiento de visión, sino también software predictivo, como los que usan los bancos para decidir quién debe obtener un préstamo.
Por ejemplo, para ayudar a diseñar algoritmos que distribuyan los préstamos de manera más justa a los grupos minoritarios, Fairgen crea bases de datos de personas artificiales de grupos minoritarios con puntajes crediticios promedio más cercanos a los de otros grupos. Un banco en el Reino Unido utiliza actualmente los datos de Fairgen para perfeccionar su software de préstamos. Cohen dice que manipular los datos en los que se entrenan los algoritmos puede ayudar con la discriminación positiva y «recalibrar la sociedad».
Por extraño que parezca, el crecimiento de los datos falsos es un paso en la dirección correcta, y no solo porque evita el uso de datos personales de las personas. También podría interrumpir la dinámica de venta de datos. Sin embargo, los datos sintéticos tampoco eliminarán completamente el sesgo, dice Julien Cornebise, profesor asociado honorario de informática en el University College London.
“El sesgo no está solo en los datos. Está en la gente que desarrolla estas herramientas con sus propios supuestos culturales”, dice. “Ese es el caso de todo lo hecho por el hombre”.
Fuente: estándar empresarial
