El uso de la tecnología de reconocimiento facial está llevando a la detención errónea de personas, generando disparidades raciales en los arrestos, según varios estudios.
Ejemplos recientes incluyen el caso de Randal Reid, quien fue detenido en Georgia basándose en una coincidencia errónea con imágenes de Louisiana.
Otro caso es el de Robert Williams en Detroit, quien fue arrestado sin una investigación adecuada basada en el reconocimiento facial.
En Woodbridge, Nueva Jersey, un hombre llamado Parks también fue vinculado erróneamente a delitos utilizando esta tecnología. Los estudios revelan que el uso del reconocimiento facial aumenta las disparidades raciales en los arrestos, con tasas más altas de arresto de personas negras y tasas más bajas para personas blancas.
Estas disparidades se deben a factores como la sobrerepresentación de personas negras en las bases de datos de imágenes y la falta de diversidad racial en los programadores y las fotos utilizadas para entrenar los algoritmos.
Además, la falta de pautas federales para interpretar los resultados y la dependencia de atajos en decisiones de alto riesgo también contribuyen a los errores.
Aunque la precisión de la tecnología varía según los desarrolladores, se señala que los sistemas estadounidenses tienen más falsos positivos entre las personas negras.
Los expertos advierten que la tecnología debe utilizarse con precaución para evitar inequidades y discriminación en la aplicación de la ley.