Un grupo de investigadores del Instituto de Tecnología de Georgia descubrió que los sistemas de reconocimiento de objetos de última generación son menos precisos en la detección de peatones con tonos de piel más oscuros.

Los científicos probaron ocho sistemas de reconocimiento de imagen (cada uno entrenado en un conjunto de datos estándar) contra una gran cantidad de imágenes peatonales.

Dividieron a los peatones en dos grupos para obtener tonos de piel más claros y oscuros según la escala de tipo de piel de Fitzpatrick (una forma de clasificar el color de la piel humana).

El estudio demostró que la precisión de detección de los sistemas era inferior en un promedio de cinco puntos porcentuales para el grupo con piel más oscura. Este resultado se mantuvo incluso cuando se controlaba la hora del día y la vista obstruida.

A través de un análisis adicional, los investigadores determinaron que el sesgo probablemente fue causado por dos cosas: muy pocos ejemplos de peatones de piel oscura, y muy poco énfasis en aprender de esos ejemplos.

Los científicos aseguran que el sesgo podría mitigarse ajustando tanto los datos como el algoritmo.