Sucedió en Estados Unidos, donde la Unión de Libertades Civiles estaba haciendo pruebas con el software de reconocimiento facial de Amazon. El grupo, informó el diario estadounidense The New York Times, comparó las fotos de los 535 miembros del Congreso con una base de datos de 25.000 imágenes públicas que utiliza la Policía para identificar a las personas que busca. Al final, 28 legisladores (el 5%) fueron confundidos con individuos que habían sido arrestados.
El portal de noticias de tecnología The Verge contactó a un vocero de Amazon, que atribuyó el error a una mala calibración del sistema. Este fue configurado para tener una precisión del 80% (la configuración estándar); pero la recomendación de la compañía es que para estas actividades se utilice un umbral de al menos 95 por ciento.
“El 80% de confiabilidad es aceptabla para fotos de perros calientes, sillas, animales y otros usos en medios sociales; pero no es apropiado para identificar individuos con un nivel razonable de certeza”, le dijo el representante de Amazon a The Verge.
Los peros del reconocimiento facial
Las pruebas de la Unión de Libertades Civiles forman parte de una campaña para lograr que el Congreso de Estados Unidos prohíba el uso de tecnología de reconocimiento facial, destaca el portal Mashable. Su argumento es que esta tiene un sesgo racial marcado.
En esta oportunidad, de hecho, 11 de las personas identificadas erradamente son afroamericanas. Dado que esta colectividad representa solo el 20% del Congreso, se puede interpretar que el error afectó al 40% de ellas, añade Mashable.
«Esta prueba confirma que el reconocimiento facial es imperfecto, sesgado y peligroso», le dijo Jacob Snow, abogado de tecnología y libertades civiles de Unión, al New York Times.
La organización y otros grupos civiles ejercen presión para que Amazon deje de ofrecer Rekognition a diferentes gobiernos locales, señala la agencia de noticias Reuters. Afirman que las pruebas realizadas en los estados de Oregon y Florida demuestran que los inmigrantes y personas de color suelen ser identificadas de manera errada con más frecuencia.
Imágenes: Spencer Whalen (vía iStock); GDJ y Bones64 (vía Pixabay)
