El anuncio y explicación se realizó a través de una carta que Arvind Krishna, presidente de IBM, compartió con el congreso de los Estados Unidos. “IBM se opone firmemente, y no aprueba ninguna tecnología, como la tecnología de reconocimiento facial ofertada por otros proveedores, para la vigilancia masiva, el perfilado racial, las violaciones de libertades y derechos humanos básicos o cualquier otro fin que no vaya en línea con nuestros valores y principios de confianza”, lee el documento compartido. “Creemos que es hora de comenzar un diálogo a nivel nacional sobre si la tecnología de reconocimiento facial debe utilizarse o no y cómo por parte de las agencias y cuerpos de seguridad”.

El contexto en el que IBM realiza el contexto parece el apropiado. Semanas después, las protestas y marchas exigiendo justicia por el asesinato de George Floyd no paran. Más importante, ha despertado debates dormidos sobre diferentes maneras en las que el racismo y discriminación ha permeado casi todas las ramas del conocimiento. Esto no excluye el campo de la tecnología. El reconocimiento facial, desde hace mucho, ha probado ser una herramienta que promueve el sesgo. También se ha cuestionado que sus peligros, dada la falta de limitaciones y estándares que existen sobre su uso.

Te puede interesar: Reconocimiento facial funciona mejor en hombres blancos: estudio MIT

“la Inteligencia Artificial es una herramienta poderosa que puede ayudar a los cuerpos de seguridad a mantener seguros a los ciudadanos. Pero los fabricantes y usuarios de los sistemas de Inteligencia Artificial deben tener una responsabilidad compartida para asegurar que la Inteligencia Artificial se prueba en relación al sesgo, en particular cuando la usan los cuerpos de seguridad, y que ese sesgo debe ser auditado y contar con informes”, afirma Krishna en su carta.

Parte de las solicitudes incluyen una solicitud al Congreso de los Estados Unidos para fomentar tecnologías que remplacen la de reconocimiento facial. Por ejemplo, el uso de cámaras corporales, investigación de análisis de datos (para mayor control de las acciones cometidas por policías) y en general investigaciones que fomenten herramientas más transparentes. Un llamado que hace eco con medidas que ya han sido tomadas en algunas ciudades en ese país, como San Francisco, Oakland y San Diego que tienen prohibido el uso de tecnología de reconocimiento facial para vigilancia.

IBM tampoco es la primera compañía de tecnología que ha roto los lazos con el reconocimiento facial. En marzo de 2020 Microsoft retiró la inversión en AnyVision, una startup israelí enfocada en este tipo de tecnología. Esto, por temores similares, asegurando que este tipo de herramientas deberían poder funcionar sin algún sesgo o violar las libertades democráticas.

Imágenes: FreePik

Los ojos del mundo están puestos sobre el desarrollo de esta tecnología, pues a pesar de los múltiples beneficios que conlleva, también se presta para ser usada de manera invasiva y sin permiso o conocimiento de las personas. Basta recordar que diferentes medios informaron que Taylor Swift la usó en uno de sus conciertos en busca de acosadores.

Por su parte, Google prometió la semana pasada no vender esta tecnología al Gobierno o a las fuerzas militares debido a los problemas que tiene; sin embargo, la empresa reconoció los usos que se le pueden también son positivos.

A pesar de todo, el Servicio metropolitano de policía de Londres anunció que hoy y mañana (lunes 17 y martes 18 de diciembre) realizará pruebas de reconocimiento facial, durante ocho horas, en locaciones específicas de la ciudad: Soho, Piccadily Circus y Leicester Square.

Estas son las séptimas pruebas que se hacen de esta tecnología desde el 2016 y, de acuerdo con el portal Ars Technica, no son las últimas, pues se espera que se programen más para el próximo año.

Para leer más noticias sobre reconocimiento facial, visita este enlace. 

Policía china usa reconocimiento facial hace tiempo

La era en la que todos seamos escaneados mientras caminamos por las calles o un centro comercial en realidad no esta lejos. Como si se tratará de un episodio de ‘Black Mirror’, el reconocimiento facial ya nos rodea y hace parte de nuestra vida cotidiana. Desde nuestros teléfonos, que mantienen la cámara activa para hacerlo, hasta los sitios donde guardan un registro fotográfico para permitir la entrada.

El desarrollo de esta ha llegado a tal punto que desde principios de 2018,  la Policía de China usa unas gafas con esta tecnología en estaciones de tren para atrapar criminales y personas que viajan con identificaciones falsas. En Colombia, por su parte, se han hecho estudios y avances para usar el reconocimiento facial en procesos notariales.

Imagen: metamoworks (Vía iStock).

Así lo asegura un estudio liderado por Joy Buolamwini, del MIT. La investigadora construyó una base de datos de 1.270 caras, usando rostros de políticos. Las caras fueron seleccionadas según el ránking de paridad de género de su país. Es decir, según el número de mujeres en oficios públicos. Buolamwini luego probó la precisión de tres sistemas de reconocimiento facial. Uno de Microsoft, uno de IBM y uno de una empresa china, Megvii.

Los resultados mostraron fallas en la identificación de géneros dependiendo del color de piel de la persona. El género fue identificado incorrectamente en menos del 1% de los hombres de piel clara. Y falló en hasta el 7% de las mujeres de piel clara. En cambio, los sistemas fallaron más del 12% en hombres de piel oscura. Y más del 35% en mujeres de piel oscura.

En general, los hombres fueron clasificados con más precisión que las mujeres. Y siendo más precisos, las personas de piel más claras fueron identificadas mejor que aquellas con pieles oscuras, explica Buolamwini en el artículo sobre su investigación. Y sobre todos los casos, los tres sistemas tuvieron un peor desempeño en mujeres de piel oscura.

Esta no es la primera vez que se demuestra la parcialización de la tecnología de reconocimiento facial. En algunas ocasiones, los usuarios de raza negra o asiáticos han hecho las denuncias de que sus equipos no funcionan igual para sus rostros. Sin embargo, esta investigación acumula más evidencia hacia la necesidad de mejores métodos a la hora de construir los sistemas de reconocimiento facial, según explica The Verge.

En particular, los sistemas deben ser alimentados con bases de datos más diversos. Y más aún, debe haber más diversidad entre las personas que crean y ejecutan estas tecnologías. Esto con el fin de que los algoritmos reconozcan con precisión a las personas sin importar tu raza o género.

Reconocimiento facial y discriminación

El reconocimiento facial aún es una tecnología emergente. Aunque ya tenemos varios celulares y servicios con esta tecnología, su desempeño aún deja mucho que desear. De manera específica, algunos expertos está preocupados por el uso de esta tecnología para la seguridad. En específico, algunos reportes aseguran que el reconocimiento facial de las autoridades implicaba desproporcionadamente a estadounidenses negros. Esto hace que personas inocentes puedan convertirse en sospechosas debido a tecnología obsoleta.

No obstante, se hace claro que los algoritmos no son parcializados a propósito. No es coincidencia que los sistemas de reconocimiento facial chinos funcionen mejor para personas de origen asiático, que para personas europeas. Las investigaciones nos indican que de necesita aún de mucho trabajo para limitar estas parcializaciones.

Imagen: captura de pantalla.