¿Debe la policía utilizar la tecnología de reconocimiento facial para rastrear a manifestantes y vigilar vecindarios en los Estados Unidos? Esta interrogante llevó al nuevo director general de IBM, Arvind Krishna, a enviarle una carta a un grupo de legisladores en los Estados Unidos en la que anuncia la intención de la empresa de abandonar el negocio.
Las agencias gubernamentales han utilizado por años esta tecnología, que de la mano de la inteligencia artificial y de la computación en nube, cada vez toma más fuerza. Sin embargo, las protestas de las dos últimas semanas que se han extendido por todo EE UU a raíz del asesinato del afroamericano George Floyd, en Minneapolis, a manos de un policía blanco han colocado a la tecnología en la mira.
“Creemos que es hora de comenzar un diálogo nacional en torno a si la tecnología de reconocimiento facial debe ser utilizada y de qué manera por parte de las agencias policiales del país”.
IBM es una de las grandes firmas tecnológicas que trabajaba en mejorar la precisión de su software de reconocimiento facial, que hasta ahora ha presentado fallas de precisión, al igual que el de otras firmas.
Mutale Nkonde: Una decisión importante
Krishna es de los que considera que puede llegar a utilizarse para la vigilancia de masas y el encasillamiento racial. Y es por eso que dirigió su misiva a un grupo de parlamentarios, entre ellos a los senadores Cory Booker y Kamala Harris, que adelantan en el Congreso una iniciativa de reforma policial que podría incluir restricciones al uso de esta tecnología.
“La práctica de utilizar una forma de inteligencia artificial para identificar a individuos en una base de datos de fotografías o en videos está bajo un mayor escrutinio después de que investigadores encontraran disparidades raciales y de género en los sistemas construidos por compañías como IBM, Microsoft y Amazon”, señaló AP.
Clare Garvie, investigadora del Centro sobre Privacidad y Tecnología de la Universidad de Georgetown, expresó que muchas agencias policiales de los Estados Unidos utilizan el software de reconocimiento facial desarrollado por compañías menos conocidas, como NEC, con sede en Tokio, y de firmas europeas como Idemia y Cognitec.
La acción del ejecutivo de IBM ha tenido reacción. Mutale Nkonde, investigadora en las universidades de Harvard y Stanford y quien dirige la organización sin fines de lucro AI For the People (Inteligencia Artificial para el Pueblo), señaló que tiene una “naturaleza simbólica” importante.
Expresó que la decisión de IBM de dejar el negocio “bajo el cariz de fomentar prácticas empresariales antirracistas” muestra que es posible hacerlo. Asimismo dijo que no es aceptable que compañías muestren su apoyo al movimiento por la igualdad afroamericana Black Lives Matter, pero en paralelo hacen contratos con la policía.
Uso del reconocimiento facial para violar los DDHH
En la carta Krishna sostiene que “IBM se opone con firmeza y no condonará el uso de ninguna tecnología, incluida la tecnología de reconocimiento facial ofrecida por otros proveedores para la vigilancia masiva, la etiquetación racial” y violaciones a los derechos humanos. También hace referencia a varias propuestas de organizaciones de abogados y activistas que han solicitado modificar la doctrina de la inmunidad calificada, que evita que individuos puedan probar daños cuando un agente viole sus derechos constitucionales.
En las últimas semanas, activistas de derechos humanos han expresado su temor de que pueda estar usándose la tecnología de vigilancia para monitorear las protestas que se han desatado después de que el policía Derek Chauvin colocó su rodilla por casi nueve minutos sobre el cuello del hombre de 46 años, esposado y boca abajo, que decía no poder respirar.
IBM había probado el software de reconocimiento facial con el Departamento de Policía de Nueva York, que ha utilizado en fechas más reciente la tecnología de otros proveedores. En mayo de 2019, San Francisco se convirtió en la primera ciudad de EE UU en prohibir la compra y el uso de esta tecnología por parte del personal de la ciudad, incluida la policía. Desde entonces, Oakland y Berkeley en el estado de California y Somerville, en Massachusetts, también establecieron regulaciones.
Lee también:
La COVID-19 puede aumentar los disturbios civiles en Europa
Conforme a los criterios de 
Saber más
