La mayoría de nosotros conocemos plataformas tecnológicas como Facebook y Google que rastrean, almacenan y ganan dinero con nuestros datos. Pero constantemente hay nuevas revelaciones sobre cuánto de nuestra privacidad ha sido socavada.
Lo último proviene del Wall Street Journal, que lanzó una bomba el viernes cuando sus pruebas revelaron que muchas aplicaciones populares para teléfonos inteligentes han estado enviando datos personales a Facebook. Según se informa, eso incluye datos de aplicaciones de monitoreo de frecuencia cardíaca y seguimiento de períodos:
Flo Period & Ovulation Tracker de Flo Health Inc., que afirma tener 25 millones de usuarios activos, le dijo a Facebook cuándo un usuario estaba teniendo su período o informó a la aplicación de su intención de quedar embarazada, mostraron las pruebas.
Cuando usamos tecnologías que rastrean nuestros datos, ingresamos a un sistema gobernado por algoritmos. Y cuanta más información entregamos, más nos entrelazamos con sistemas algorítmicos que no controlamos.
Necesitamos con urgencia protecciones que cuiden nuestros intereses personales en este sistema. Proponemos el concepto de “guardianes algorítmicos” como una solución efectiva.
Leer más: ¿Qué están haciendo las empresas de tecnología sobre el uso ético de los datos? No mucho
¿Cómo funcionan los algoritmos de seguimiento de datos?
Diariamente, sin nuestro conocimiento, las empresas tecnológicas utilizan nuestros datos para predecir nuestros hábitos, preferencias y comportamiento. Los algoritmos que operan detrás de todo, desde los sistemas de recomendación de música hasta los sistemas de seguridad para el hogar con reconocimiento facial, usan esos datos para crear una versión de nosotros como gemelos digitales.
Luego recibimos contenido y publicidad en función de lo que el algoritmo ha decidido que queremos y necesitamos, sin explicar cómo llegó a esa decisión, ni permitirnos ninguna entrada en el proceso de toma de decisiones.
Y nuestros intereses probablemente estén en segundo lugar después de los que desarrollaron el algoritmo.
Al contrario de lo que sugiere el concepto, no controlamos directamente la “personalización”, y casi no tenemos forma de proteger nuestra autonomía en estas transacciones de datos y toma de decisiones.
¿Qué es un ‘guardián algorítmico’?
Hemos propuesto el concepto de guardianes algorítmicos, que podrían programarse para administrar nuestras interacciones digitales con plataformas sociales y aplicaciones de acuerdo con nuestras preferencias personales.
Se conciben como bots, asistentes personales o tecnología de hologramas que nos acompañan dondequiera que nos aventuramos en línea y nos alertan sobre lo que sucede detrás de escena.
Estos guardianes son en sí mismos algoritmos, pero trabajan solo para nosotros. Al igual que el software de virus informático, aquellos que no protegen a los usuarios se irán a la quiebra, mientras que aquellos que se ganen la reputación de guardianes de confianza tendrán éxito.
En términos prácticos, nuestros guardianes nos harían reconocibles o anónimos cuando elegimos serlo. También alterarían nuestra identidad digital de acuerdo con nuestros deseos, para que podamos usar diferentes servicios con diferentes conjuntos de preferencias personales. Nuestros guardianes mantienen nuestros datos personales en nuestras propias manos asegurándose de que nuestras copias de seguridad y contraseñas estén seguras. Decidiríamos qué se recuerda y qué se olvida.
Leer más: Facebook necesita regulación: he aquí por qué debería hacerse mediante algoritmos
Un guardián algorítmico:
-
alertarnos si nuestra ubicación, actividad en línea o conversaciones estaban siendo monitoreadas o rastreadas, y darnos la opción de desaparecer
-
ayúdenos a comprender los puntos relevantes de los términos y condiciones largos y engorrosos cuando nos registramos en un servicio en línea
-
darnos una explicación simple cuando no entendemos qué sucede con nuestros datos entre nuestra computadora, los registros telefónicos y las docenas de aplicaciones que se ejecutan en segundo plano en nuestros teléfonos
-
notificarnos si una aplicación está enviando datos de nuestros teléfonos a terceros y darnos la opción de bloquearla en tiempo real
-
Indícanos si nuestros datos han sido monetizados por un tercero y para qué.
Visualizamos a los guardianes algorítmicos como la próxima generación de asistentes personales actuales como Siri, Alexa o Watson. Gracias a la tecnología portátil y los modelos avanzados de interacción humano-computadora, serán accesibles de manera constante y fácil.
Nuestros guardianes digitales no necesitan ser tan inteligentes como los humanos. Más bien, deben ser inteligentes en relación con el entorno en el que habitan, reconociendo y comprendiendo los otros algoritmos que encuentran.
En cualquier caso, incluso si los guardianes algorítmicos (a diferencia de los algoritmos de terceros) son propiedad de los usuarios y están totalmente bajo nuestro control, poder entender cómo funcionan será una prioridad para hacerlos completamente confiables.
Leer más: No somos dueños de los datos como si fuéramos dueños de un automóvil, por lo que nos resulta más difícil proteger los datos
¿Cuándo llegarán los guardianes algorítmicos?
La tecnología para habilitar guardianes algorítmicos está surgiendo mientras hablamos. Lo que está rezagado es la comprensión generalizada de que lo necesitamos.
Puede ver versiones primitivas de la tecnología de guardianes algorítmicos en bóvedas digitales para almacenar y administrar contraseñas, y en configuraciones de software que nos dan cierto control sobre cómo se usan nuestros datos.
El aprendizaje automático explicable es un tema candente en este momento, pero todavía está en el dominio de la investigación. Aborda el problema de la «caja negra», donde no tenemos idea de cómo un algoritmo llegó realmente a su decisión final. En la práctica, podemos saber que nuestra solicitud de préstamo es denegada, pero no sabemos si fue por nuestro historial de facturas de energía impagas o por nuestro apellido.
Sin esta responsabilidad, los momentos clave de nuestras vidas están mediados por algoritmos desconocidos, invisibles y arbitrarios. Los guardianes algorítmicos podrían asumir el papel de comunicar y explicar estas decisiones.
Ahora que los algoritmos se han generalizado en la vida diaria, la explicabilidad ya no es una opción, sino un área que requiere más atención con urgencia.
Necesitamos desarrollar modelos guardianes algorítmicos específicos en los próximos años para sentar las bases de los sistemas algorítmicos abiertos durante la próxima década. De esa manera, si una aplicación quiere decirle a Facebook que estás embarazada, lo sabrás antes de que suceda.
