Si bien el despliegue de nuevas tecnologías en los organismos encargados de hacer cumplir la ley está en auge, también parece haber un rechazo cada vez mayor por parte de aquellos que se verán más afectados por las herramientas. Imagen: Matthew Horwood / Getty Images Noticias
Los oficiales de policía están utilizando algoritmos como herramientas de reconocimiento facial para hacer cumplir la ley, a menudo sin supervisión o pruebas adecuadas, pero parece que esto ahora está causando que los ciudadanos expresen su descontento en lo que podría ser una nueva ola de reacciones violentas contra tales tecnologías.
Invitados a hablar ante los legisladores del Reino Unido como parte de una investigación sobre el uso de algoritmos en la vigilancia policial, un panel de expertos de todo el mundo acordó que si bien el despliegue de nuevas tecnologías en las agencias de aplicación de la ley está en auge, también parece haber un rechazo creciente de aquellos que se verán más afectados por las herramientas.
«Con respecto a ciertas tecnologías, hemos comenzado a ver algunas críticas y retrocesos», dijo Elizabeth Jo, profesora de derecho en la Universidad de California, Davis. «Entonces, por ejemplo, aunque muchos departamentos de policía adoptaron las herramientas de vigilancia predictiva en la década de 2010, digamos, en los EE. UU. se pueden ver pequeños movimientos hacia una reacción violenta».
VER: La paradoja de la privacidad: ¿Cómo pueden las empresas usar datos personales y al mismo tiempo proteger la privacidad del usuario?
A principios de este año, por ejemplo, el gobierno local del condado de King en Washington votó a favor de prohibir que la policía local use la tecnología de reconocimiento facial, que la policía suele utilizar para encontrar a los delincuentes que buscan comparando imágenes de rostros de cámaras en vivo con una imagen previa. -lista de vigilancia determinada. Cuando la tecnología identifica una posible coincidencia con una persona de interés, genera una alerta para advertir a los agentes de policía.
Los grupos de defensa describieron la medida del condado de King como un reflejo de un movimiento creciente en los EE. UU. para prohibir el uso de la tecnología de reconocimiento facial por parte de la fuerza policial. Cuatro gobiernos de California, los ayuntamientos de Oakland, San Francisco, Alameda y Berkeley, también han aprobado prohibiciones de reconocimiento facial, mientras que varias ciudades y pueblos del país han implementado leyes para regular la tecnología.
Vermont y Virginia incluso han aprobado leyes estatales para prohibir o regular el uso del reconocimiento facial por parte de la policía.
Si bien es una de las herramientas más debatidas y discutidas, el reconocimiento facial es solo una de una serie de nuevas tecnologías que las agencias policiales de todo el mundo han adoptado en los últimos años.
Desde cámaras corporales y sistemas automáticos de reconocimiento de matrículas hasta cámaras de vigilancia CCTV en el Reino Unido, pasando por algoritmos de detección encargados de predecir el riesgo de reincidencia para los jóvenes delincuentes en Nueva Zelanda, la última década ha visto un auge en el uso de tecnologías emergentes en los departamentos de policía.
Un factor que está en gran parte en juego, según Jo, es la influencia del sector privado, que a menudo desarrolla las herramientas utilizadas por los oficiales y, por lo tanto, tiene un gran interés en asegurarse de que se adopte la tecnología.
Hace solo unos meses, por ejemplo, uno de los principales fabricantes de productos tecnológicos para las fuerzas del orden de EE. UU., Axon, anunció un nuevo programa para equipar a todos los agentes de policía del país con una cámara de cuerpo libre durante un año de prueba. – y la compañía afirma haber generado ya el interés de cientos de agencias policiales.
¿El problema? Con casi ninguna regla vigente a nivel nacional para controlar la propagación de estas herramientas en los departamentos de policía, dijo Jo, gran parte de la adopción de nuevas tecnologías queda completamente sin control.
«Como estadounidense aquí, supongo que debo confiar en la terrible analogía de decir que somos el Salvaje Oeste cuando se trata de estas tecnologías, lo que significa que ha habido una experimentación absoluta en los EE. UU. con respecto a muchos tipos diferentes de tecnologías», dijo Jo. .
«Hemos visto la adopción de muchos tipos de tecnologías en todo Estados Unidos caso por caso».
Esto puede atribuirse en parte a las jerarquías específicas de EE. UU. y la distribución del poder entre los gobiernos federal y local, lo que significa que no existe una regla nacional que pueda aplicarse a todos los departamentos de policía. Pero el tema de la tecnología policial no supervisada está lejos de ser específico de Estados Unidos.
Al otro lado del Atlántico, un informe reciente destacó problemas similares en la fuerza policial del Reino Unido. Un comité sobre estándares en la vida pública mostró que las nuevas tecnologías se introducen en los organismos encargados de hacer cumplir la ley con muy poca supervisión y, a menudo, sin un proceso claro para evaluar, adquirir o implementar las herramientas.
Los algoritmos policiales, como resultado, a menudo se utilizan con poca transparencia, hasta el punto de que los ciudadanos ni siquiera se dan cuenta de que una tecnología en particular se está utilizando en su contra.
Rosamunde Elise Van Brakel, criminóloga digital de la Universidad Vrije de Bruselas, pintó un cuadro similar en Bélgica. «En Bélgica no está muy claro cómo se realiza la contratación, no hay transparencia sobre las reglas, si tienen que cumplir con ciertos pasos en la contratación con respecto a la policía», dijo Van Brakel. «Todo está muy poco claro y no hay información pública sobre cómo se toman las decisiones».
Esto es problemático porque abundan los ejemplos del mal uso de la tecnología en los departamentos de policía, y ahora están saliendo a la luz. A principios de este año, por ejemplo, la policía de Detroit en Michigan fue demandada por un hombre que fue arrestado injustamente después de que un algoritmo de reconocimiento facial lo confundiera con un ladrón.
VER: La innovación es difícil. Aquí hay cinco maneras de hacerlo más fácil
Es probable que las víctimas de algoritmos defectuosos en la vigilancia pertenezcan a comunidades que históricamente han sido discriminadas: múltiples estudios de institutos establecidos como el MIT o Harvard, por ejemplo, han demostrado que las plataformas de reconocimiento facial tienen particular dificultad para distinguir los rostros de las personas con ojos más oscuros. piel.
En 2017 en el Reino Unido, por ejemplo, los oficiales de policía en Durham comenzaron a usar un algoritmo llamado Harm Assessment Risk Tool (HART), que predijo el riesgo de reincidencia de las personas que habían sido arrestadas, según los datos de 104,000 personas arrestadas. en la ciudad durante un período de cinco años.
Entre los datos utilizados por Hart estaba la edad, el sexo y el código postal de los sospechosos; y dado que la información geográfica tiene el potencial de reflejar comunidades raciales, las decisiones tomadas por HART estaban inevitablemente sesgadas en contra de esas comunidades.
Y a medida que estos errores se multiplican, también aumentan las preocupaciones de los ciudadanos.
«Lo que estamos empezando a ver son casos individuales limitados en los que las personas que están siendo procesadas penalmente plantean preguntas sobre una tecnología particular que se está utilizando en su contra y tratan de averiguar algo sobre cómo se está utilizando esa tecnología», dijo Jo.
El año pasado, un ciudadano del Reino Unido llamado Ed Bridges ganó un caso judicial contra la Policía de Gales del Sur (SWP) después de que se quejó de que una camioneta de reconocimiento facial lo filmó sin su consentimiento. El tribunal determinó que el uso del reconocimiento facial en vivo violaba los derechos de privacidad, las leyes de protección de datos y las leyes de igualdad, y que se necesitaban reglas más estrictas para administrar el despliegue de tecnologías de reconocimiento facial.
El caso Bridges condujo directamente a una nueva redacción de las reglas que rodean las cámaras de vigilancia en el país, que se publicó a principios de este año. Las leyes actualizadas, llamadas Código de práctica de cámaras de vigilancia, brindan una nueva guía sobre el uso del reconocimiento facial en vivo, específicamente sobre la base de las lecciones aprendidas del fiasco de SWP.
VER: Las computadoras cuánticas podrían leer todos sus datos encriptados. Esta VPN ‘cuánticamente segura’ tiene como objetivo detener eso
Para Van Brakel, esta nueva conciencia de las tecnologías de vigilancia está relacionada con la pandemia de COVID-19 y la profusión de herramientas digitales que los gobiernos desarrollaron para hacer frente a la crisis, que van desde aplicaciones de rastreo de contactos hasta pasaportes de vacunas.
“El debate público realmente comenzó con la pandemia”, dijo Van Brakel. “Los ciudadanos se sienten felices si las tecnologías se usan de manera específica, en el contexto de la lucha contra el terrorismo o el crimen organizado. Pero ahora, con la pandemia, lo que ha estado sucediendo es que las tecnologías se están enfocando en toda la población y la gente está cuestionando el gobierno. Y vemos que hay una clara pérdida de confianza en el gobierno».
En Francia, por ejemplo, el gobierno probó un software de reconocimiento facial en una estación de metro de París, con seis cámaras que podían identificar a los pasajeros que no habían usado una máscara. Apenas una semana después del inicio del experimento, la agencia francesa de protección de datos CNIL puso fin al juicio, condenando la naturaleza de intrusión en la privacidad de la tecnología, y se retiraron las cámaras.
En otra señal de que se avecina un cambio, la Comisión de la UE publicó recientemente un proyecto de reglamento sobre el uso de la inteligencia artificial, que incluía la prohibición de algunas formas de reconocimiento facial por parte de los organismos encargados de hacer cumplir la ley.
Queda por ver si es demasiado optimista pensar que pronto existirán reglas para mantener el control sobre el uso de algoritmos por parte de los departamentos de policía. Los ciudadanos y los grupos de la sociedad civil están haciendo oír su voz y es poco probable que se calmen.
