Con EE. UU. y China compitiendo para cosechar los beneficios de la inteligencia artificial, la Unión Europea no quiere quedarse atrás. Por lo tanto, ha presentado un nuevo enfoque para la economía digital del bloque con una nueva «estrategia para dar forma al futuro digital de Europa».
Detrás de esa amplia descripción, los objetivos de la nueva estrategia son específicos: establecer reglas sobre datos e IA que sean esencialmente europeas, una regulación que «pone a las personas primero» y fomenta la «tecnología confiable».
En un libro blanco sobre inteligencia artificial publicado como parte del anuncio de la nueva estrategia, la organización europea subraya su deseo de hacer de la tecnología una «fuerza para el bien», y no una que perjudique a los ciudadanos.
El documento describe los riesgos inherentes al uso de IA «para rastrear y analizar los hábitos diarios de las personas», y el potencial de las autoridades estatales para explotar la tecnología para la vigilancia masiva.
VER: Cómo implementar la IA y el aprendizaje automático (Informe especial de MarketingyPublicidad.es) | Descarga el informe en PDF (República Tecnológica)
Aunque el periódico no menciona ni avergüenza, los riesgos mencionados por la Comisión recuerdan las noticias recientes de los EE. UU., donde el mes pasado se presentó una demanda contra la empresa emergente Clearview AI con sede en Nueva York, luego de que se información extraída de las redes sociales a los organismos encargados de hacer cumplir la ley en todo el país.
Clearview AI reunió fotos sin el consentimiento de los ciudadanos; de hecho, tres mil millones de fotos fueron tomadas de sitios como Facebook, Twitter, YouTube y otros.
Volviendo al otro gran competidor de la UE en tecnología, China, es igualmente fácil señalar con el dedo. El gobierno chino ha estado utilizando el reconocimiento facial durante mucho tiempo, a menudo en detrimento de sus ciudadanos.
Recientemente, por ejemplo, se descubrió que las autoridades habían establecido sistemas de escaneo similares a puertas para registrar imágenes tridimensionales biométricas, así como las huellas dactilares de los teléfonos inteligentes de los musulmanes que viven en la provincia de Xinjiang del país, para rastrear los movimientos de la población.
La UE está dispuesta a no permitir este tipo de aplicación. Ursula von der Leyen, presidenta de la Comisión, dijo: «Quiero que la Europa digital refleje lo mejor de Europa: abierta, justa, diversa, democrática y segura».
Para lograr este objetivo, la Comisión quiere crear un «ecosistema de confianza» para la IA. Y comienza colocando un signo de interrogación sobre el reconocimiento facial. La organización dijo que consideraría prohibir la tecnología por completo. Los comisionados planean lanzar un debate sobre «qué circunstancias, si las hay», podrían justificar el uso del reconocimiento facial.
El libro blanco de la UE también sugiere tener diferentes reglas, dependiendo de dónde y cómo se use un sistema de IA. Un sistema de alto riesgo es aquel que se utiliza en un sector crítico, como la sanidad, el transporte o la policía, y que tiene un uso crítico, como provocar cambios legales o decidir sobre los pagos de la seguridad social.
Dichos sistemas de alto riesgo, dijo la Comisión, deberían estar sujetos a reglas más estrictas, para garantizar que la aplicación no transgreda los derechos fundamentales al emitir decisiones sesgadas.
De la misma manera que los productos y servicios que ingresan al mercado europeo están sujetos a controles de seguridad y protección, argumenta la Comisión, las aplicaciones impulsadas por IA deben controlarse por sesgo.
El conjunto de datos que alimenta el algoritmo podría tener que pasar por evaluaciones de conformidad, por ejemplo. También se podría exigir que el sistema se readapte por completo en la UE.
Para aplicaciones de IA de menor riesgo, la Comisión sugiere un esquema de etiquetado voluntario basado en puntos de referencia definidos por la UE, que tranquilizaría a los ciudadanos de que un sistema de IA determinado es «digno de confianza».
Mark Coeckelbergh es miembro del grupo de expertos de alto nivel en inteligencia artificial designado por la Comisión de la UE para elaborar recomendaciones para el despliegue ético de la IA. Le dijo a MarketingyPublicidad.es que el deseo de la Comisión de hacer de la IA ética una prioridad es alentador, pero que la medida podría haber llegado demasiado pronto.
«No estoy seguro de qué tan rápido va esto», dijo. «Los comisionados no han esperado a que el grupo de expertos haya terminado con su trabajo, por lo que no vemos mucho de nuestro aporte en este plan.
«Debido a que salió tan temprano, parece bastante ligero y hay muchas oportunidades para la interpretación. Desde un punto de vista ético, no estoy muy contento con eso».
El grupo de expertos, continuó, publicará sus recomendaciones en mayo o junio, y Coeckelbergh cree que la Comisión se podría haber beneficiado mucho si esperara un par de meses.
Junto con los otros 51 miembros de la academia, la sociedad civil y la industria que conforman el grupo de expertos de alto nivel, Coeckelbergh está trabajando efectivamente en pautas más detalladas adaptadas a cada sector y tendiendo puentes entre los defensores de una regulación más estricta y los que están a favor de la flexibilidad.
Según Coeckelbergh, lo que la Comisión define como «sistemas de IA de alto riesgo», por ejemplo, no es tan claro como lo hace parecer el libro blanco. Una gran cantidad de software de IA funciona en todos los sectores, argumentó, y no tiene un solo resultado en un área específica.
«Necesitamos un marco regulatorio que sea más sólido y cubra más áreas», dijo Coeckelbergh. «Este documento podría haber sido escrito hace un año, no incluye el trabajo detallado que hemos estado realizando de nuestro lado. No me da confianza de que habrá una regulación efectiva en el lado ético».
La razón por la que Europa puede haber estado ansiosa por anunciar temprano cuál es su posición con respecto a la inteligencia artificial puede deberse a la geopolítica. El continente se ha quedado rezagado con respecto a sus homólogos estadounidense y chino durante varios años en el desarrollo de tecnologías impulsadas por IA, y la nueva estrategia de la Comisión es una forma de expresar que el viejo continente sigue siendo relevante.
Investigaciones recientes mostraron que menos de la mitad de las empresas europeas han adoptado la tecnología de IA y que solo cuatro empresas europeas se encuentran entre las 100 principales empresas emergentes de IA del mundo. En Europa, «el ritmo de difusión e inversiones de la IA sigue siendo limitado», señalaron analistas de la firma de investigación McKinsey.
El documento de la Comisión reconoce la necesidad de ponerse al día, y señala que los 3200 millones de euros (3400 millones de dólares) invertidos en IA en Europa desde 2016 son «todavía una fracción» de las inversiones en otras regiones del mundo. En América del Norte, la suma invertida durante el mismo período asciende a 12.100 millones de euros (13.000 millones de dólares).
VER: Un tribunal holandés dictamina que la inteligencia artificial beneficia al sistema de detección de fraudes que viola los derechos humanos de la UE
El objetivo anunciado hoy por la organización es atraer más de 20.000 millones de euros (21.500 millones de dólares) de inversión total anual en IA en la próxima década. «A Europa le va bien en investigación e innovación, pero no es buena traduciendo esto en productos para el mercado», dijo Coeckelbergh. «Existe la sensación de que tenemos que hacer algo».
«Mi sospecha es que tal vez la Comisión escribió el documento ahora para hacer una declaración al resto del mundo y mostrar que estamos en esto. No creo que sea problemático, pero podría haber llegado un poco más tarde, en la forma de una estrategia más robusta», agregó.
En una nota más positiva, Coeckelbergh señaló que el trabajo de la Comisión está mostrando el camino a seguir, y que las inversiones en IA deben ir de la mano con un marco ético.
El anuncio de la organización ciertamente suena a GDPR y, con suerte, así como las normas europeas sobre protección de datos se han convertido en un modelo global, la postura de la UE sobre la IA puede inspirar a otros países a seguir su ejemplo.
El libro blanco sobre inteligencia artificial está abierto a consulta pública hasta el 19 de mayo de 2020, después de lo cual la Comisión «tomará nuevas medidas para apoyar el desarrollo de una IA fiable».
