IA y automatización frente a la pandemia de COVID-19: intercambiar libertad por seguridad

Las tecnologías digitales se han promocionado como una solución a la Brote de COVID-19 desde temprano en la pandemia. AlgorithmWatch, una organización de investigación y defensa sin fines de lucro para evaluar y arrojar luz sobre los procesos algorítmicos de toma de decisiones, acaba de publicar un informe sobre los sistemas automatizados de toma de decisiones en la pandemia de COVID-19, que examina el uso de la tecnología para responder a COVID-19.

El informe tiene una perspectiva europea, ya que AlgorithmWatch se centra en el uso de la tecnología digital en la UE. Sin embargo, sus hallazgos son interesantes y aplicables independientemente de las geografías, ya que se refieren a los mismos principios y tecnologías subyacentes. Además, se hace referencia y comparación al uso de la tecnología a nivel mundial.

¿Es IA o ADM?

Los informes sientan las bases al introducir la distinción entre Inteligencia artificial(AI) y Toma de decisiones automatizada (ADM). AlgorithmWatch señala que AI es un término vago y muy publicitado, al que durante mucho tiempo han preferido la locución más rigurosa ADM. AlgorithmWatch define un sistema ADM como:

«Un marco sociotecnológico que abarca un modelo de toma de decisiones, un algoritmo que traduce este modelo en código computable, los datos que este código utiliza como entrada, ya sea para ‘aprender’ de ellos o para analizarlos aplicando el modelo. – y todo el entorno político y económico que rodea su uso».

El punto es que los sistemas ADM son más que tecnología. Más bien, señala AlgorithmWatch, son formas en las que una determinada tecnología se inserta en un proceso de toma de decisiones. Y esa tecnología puede ser mucho menos sofisticada o «inteligente» que los algoritmos de aprendizaje profundo. La misma tecnología se puede utilizar para propósitos muy diferentes, dependiendo de la lógica.

Los datos recopilados a través de una aplicación para teléfonos inteligentes basada en Bluetooth LTE, por ejemplo, se pueden compartir de forma voluntaria y anónima con un servidor central o con teléfonos inteligentes de personas potencialmente infectadas, sin consecuencias ni sanciones de ningún tipo en caso de que un ciudadano decida no descargarlos.

O bien, se puede adoptar la misma tecnología dentro de una solución mucho más invasiva de los derechos, trabajando en conjunto con el GPS para proporcionar continuamente la ubicación de un ciudadano a las autoridades, a veces dentro de esquemas obligatorios y con sanciones severas en caso de que no se respeten.

Partiendo de esa premisa, el informe pasa a examinar diferentes formas de utilizar la tecnología y recopilar datos empleadas por diferentes iniciativas en todo el mundo.

Obligatorio ADM y pulseras

Algunos regímenes han recurrido a soluciones ADM invasivas que priorizan fuertemente las preocupaciones de salud y seguridad públicas sobre los derechos individuales, señala AlgorithmWatch. China parece estar liderando el camino. Según un informe del New York Times, se utiliza un sistema de calificación basado en colores llamado Código de salud de Alipay.

El sistema utiliza big data «para sacar conclusiones automatizadas sobre si alguien tiene riesgo de contagio». Bajo este modelo de ADM, los ciudadanos tienen que llenar un formulario con sus datos personales, para luego ser presentados con un código QR en tres colores:

«Un código verde permite a su titular moverse sin restricciones. A alguien con un código amarillo se le puede pedir que se quede en casa durante siete días. Rojo significa una cuarentena de dos semanas». Es necesario escanear para visitar «edificios de oficinas, centros comerciales, complejos residenciales y sistemas de metro», según un informe de Reuters.

AlgorithmWatch continúa agregando Bahrein, India, Israel, Kuwait, Rusia y Corea del Sur a la lista de países donde las aplicaciones ADM se utilizan de una manera que representa una amenaza para los derechos de sus ciudadanos. Aunque el informe señala que a la UE le va mejor en ese aspecto, el uso de aplicaciones en Hungría, Lituania, Noruega y Polonia también está plagado de problemas.

10-cicret-pulsera.png

Tecnologías como los wearables adquieren una dimensión diferente si su uso es obligatorio

AlgorithmWatch proporciona algunos detalles gráficos sobre algunos de esos casos antes de pasar a los dispositivos portátiles, también conocidos como pulseras. Aquí Liechtenstein está a la cabeza, después de haber lanzado un estudio en el que a 2.200 ciudadanos se les da un brazalete biométrico para recopilar «métricas corporales vitales, como la temperatura de la piel, la frecuencia respiratoria y la frecuencia cardíaca».

Luego, esos datos se envían a un laboratorio suizo para su análisis. El experimento, que finalmente involucrará a todos los ciudadanos del país, se basa en la premisa de que mediante el análisis de signos vitales fisiológicos «se puede desarrollar un nuevo algoritmo para el brazalete sensorial que puede reconocer COVID-19 en una etapa temprana, incluso si no se presentan síntomas típicos de la enfermedad».

Los wearables también se utilizan en países como Hong Kong, Singapur, Arabia Saudita, los Emiratos Árabes Unidos y Jordania, pero también en el Albion College de Michigan. El informe señala que, aunque el objetivo declarado es hacer cumplir las órdenes de cuarentena y otras restricciones de COVID-19, organizaciones como Electronic Frontier Foundation (EFF) están profundamente preocupadas.

La EFF afirma que los dispositivos portátiles, en el contexto de la pandemia, «siguen siendo una tecnología no probada que podría hacer poco para contener el virus y, como máximo, debería ser un complemento de las medidas primarias de salud pública, como las pruebas generalizadas y el rastreo manual de contactos». Además, y lo que es más importante, «todos deberían tener derecho a no usar un token de seguimiento y quitárselo cuando lo deseen».

¿Cómo funcionan las aplicaciones de rastreo de contactos y, de hecho, funcionan?

El choque fundamental entre los diferentes modelos de ADM se ejemplifica en el debate global sobre las aplicaciones digitales para complementar los esfuerzos de rastreo de contactos, señala AlgorithmWatch. Si bien algunos entusiastas de la tecnología argumentaron que la privacidad y otros derechos fundamentales podrían sacrificarse para permitir la salud pública, no todos están a favor de esa opinión.

Además, se produjo un acalorado debate sobre la adopción de tecnologías relevantes, lo que resultó en dos campos principales: seguimiento por GPS para recopilar datos de ubicación y Bluetooth Low Energy para recopilar datos de proximidad. Este último campo también se dividió en dos líneas de pensamiento opuestas: centralizado vs descentralizado. Países como Francia, el Reino Unido e inicialmente Alemania intentaron desarrollar soluciones centralizadas basadas en Bluetooth, mientras que Italia, Suiza, Dinamarca, Estonia (y, en última instancia, Alemania) optaron por una solución descentralizada.

Las aplicaciones basadas en GPS funcionan mediante la recopilación de datos de ubicación. La razón es que los datos pueden ayudar a las autoridades sanitarias a reconstruir la red de contactos de una persona que dio positivo en la prueba de COVID-19. Esto ayuda a los esfuerzos de rastreo de contactos, según se piensa, acelerándolos y haciéndolos más efectivos y completos, al mismo tiempo que permite una identificación geográfica precisa de los brotes. Las aplicaciones basadas en GPS también pueden permitir la identificación de tendencias y la aplicación de reglas de cuarentena.

Aplicación de rastreo de coronavirus o rastreo de contactos para reducir la propagación del coronavirus después de la detección de personas infectadas en cuarentena.

Las aplicaciones de rastreo de contactos se promocionan como un medio para reducir la propagación del coronavirus. Pero, ¿cómo funcionan? ¿Realmente funcionan?

Getty Images/iStockphoto

Las aplicaciones de rastreo de contactos descentralizadas funcionan simplemente indicando que dos teléfonos han estado lo suficientemente cerca el uno del otro durante el tiempo suficiente para considerar que el encuentro está en riesgo. Emiten una notificación de posible exposición a un sujeto positivo, si uno de los propietarios fuera diagnosticado con COVID-19 dentro de los 14 días, suponiendo que estén dispuestos a cargar los datos del encuentro a través de la aplicación.

Las API de notificación de exposición desarrolladas por Google y Apple para los sistemas operativos Android e iOS, que comprenden la gran mayoría, se han utilizado, con diversos grados de éxito, aunque también causaron cierta fricción. El reclamo era que no se recopilarían datos de ubicación. Sin embargo, se ha argumentado que Google aún solicitó que se activaran los datos de ubicación, aunque no se recopilaran, para poder notificar a los usuarios a través de Bluetooth.

AlgorithmWatch señala que meses después de las primeras implementaciones, todavía carecemos de evidencia sólida sobre la efectividad de todos estos sistemas ADM. Como concluyó una revisión sistemática de la literatura después de analizar 110 estudios de texto completo, «no se identificó evidencia empírica de la efectividad del rastreo automatizado de contactos (con respecto a los contactos identificados o la reducción de la transmisión)». ¿Por qué?

Como señala la Unión Estadounidense de Libertades Civiles, la tecnología GPS tiene «una precisión teórica en el mejor de los casos de 1 metro, pero más típicamente de 5 a 20 metros a cielo abierto». Además, «las señales de radio GPS son relativamente débiles; la tecnología no funciona en interiores y funciona mal cerca de grandes edificios, en grandes ciudades y durante tormentas eléctricas, tormentas de nieve y otras condiciones climáticas adversas».

En cuanto a Bluetooth, incluso sus propios creadores han pedido cautela: los problemas en términos de precisión e «incertidumbre en el rango de detección» son muy reales, «entonces, sí, puede haber falsos negativos y falsos positivos y hay que tenerlos en cuenta». .» AlgorithmWatch elabora más y señala que, según lo anterior, la eficacia de tales aplicaciones es cuestionable.

Escáneres térmicos, reconocimiento facial, pasaportes de inmunidad: ¿debería ser esta nuestra nueva normalidad?

El informe también señala que para algunas industrias, la pandemia no es precisamente catastrófica. Los pronósticos para los mercados de tecnología de escaneo térmico, reconocimiento facial, biometría facial y de voz parecen sobresalientes, en gran parte gracias a la pandemia. AlgorithmWatch llama a esto sorprendente y sorprendente:

«No sorprende, dado que el reconocimiento facial se está adoptando y desplegando ampliamente, tanto dentro como fuera de la UE, con poco o ningún debate democrático significativo y salvaguardas implementadas. Pero también es sorprendente, dado lo que sabemos sobre su escasa utilidad en la batalla contra COVID -19».

Un estudio del Instituto Nacional de Estándares y Tecnología argumenta que «usar máscaras faciales que cubran adecuadamente la boca y la nariz hace que la tasa de error de algunos de los algoritmos de reconocimiento facial más utilizados aumente entre el 5 y el 50 por ciento». EFF, por su parte, señala que las cámaras térmicas no solo presentan problemas de privacidad, sino que también pueden dar lugar a falsos positivos que conllevan un riesgo muy real de cuarentenas involuntarias y/o acoso.

escalas-de-nube-hibrida.jpg

El equilibrio entre libertad y seguridad siempre es un tema controvertido, y el esfuerzo por abordar el COVID-19 con tecnología lo pone de manifiesto

Algunos países también están experimentando con pasaportes de inmunidad, desde Estonia hasta el Reino Unido, como documenta AlgorithmWatch. El fundamento para su adopción, y el caso para hacerlo con urgencia, es el mismo: cuando se adopta como una «credencial» digital, según Privacy International, una persona puede probar su estado de salud (positivo, recuperado, vacunado, etc.). ) siempre que sea necesario en contextos públicos, lo que permite a los gobiernos evitar más bloqueos totales.

Sin embargo, Privacy International continúa agregando que, de manera similar a todas las herramientas descritas anteriormente, «actualmente no existe una base científica para estas medidas, como lo destaca la OMS. Actualmente se desconoce la naturaleza de la información que se mantendría en un pasaporte de inmunidad. .»

AlgorithmWatch concluye destacando el tema común que surge de lo que se ha estudiado: una mentalidad de «moverse rápido y romper cosas», intercambiando libertad por seguridad. Es más, no parece haber mucho en términos de evidencia para la seguridad, o en términos de debate democrático, rendición de cuentas y garantías en términos de renuncia a la libertad. O incluso en cómo medir el «éxito». El enfoque no debe ser mejorar estas tecnologías, señala AlgorithmWatch, sino salvaguardar su uso:

«Apresurarse a encontrar soluciones tecnológicas novedosas para un problema social tan complejo como una pandemia puede resultar tanto en no resolver el problema social en cuestión como en normalizar innecesariamente las tecnologías de vigilancia».

Deja un comentario