El CEO de Google, Sundar Pichai, ha expresado su apoyo a la prohibición temporal propuesta en Europa del reconocimiento facial, pero el principal abogado de Microsoft, Brad Smith, ha advertido contra el uso de un ‘cuchillo de carne’ para lo que debería ser una operación quirúrgica.
Los dos ejecutivos de tecnología respondieron el lunes a la propuesta de la Comisión Europea de prohibir el uso del reconocimiento facial en espacios públicos durante tres a cinco años o hasta que se puedan desarrollar suficientes marcos de evaluación y gestión de riesgos.
Pichai escribió el lunes que había «preocupaciones reales sobre las posibles consecuencias negativas de la IA, desde falsificaciones profundas hasta usos nefastos del reconocimiento facial» y abogó por una «regulación sensata» que lograra el equilibrio adecuado entre las oportunidades de la IA y sus daños potenciales.
VER: Cómo implementar la IA y el aprendizaje automático (Informe especial de MarketingyPublicidad.es) | Descarga el informe en PDF (República Tecnológica)
Hablando en una conferencia en Bruselas el lunes, Pichai dijo que era importante que los gobiernos abordaran las cuestiones regulatorias sobre el reconocimiento facial y, más ampliamente, la IA «más temprano que tarde», y que la prohibición puede ser «inmediata, pero tal vez haya un período de espera». antes de que realmente pensemos en cómo se está utilizando».
Pichai argumenta que la UE puede adaptar la legislación existente, como el Reglamento general de protección de datos (RGPD), para gestionar los riesgos de la IA y la tecnología de reconocimiento facial. También dijo que la regulación debe usarse para respaldar los principios de IA como los descritos por Google el año pasado en el que se comprometió a no lanzar IA que pudiera dañar a las personas.
«La rendición de cuentas es una parte importante de nuestros principios de IA. Queremos que nuestros sistemas sean responsables y explicables y los probamos por seguridad», dijo Pichai al grupo de expertos Bruegel, que organizó la conferencia.
«Creo que, inevitablemente, al hacer eso, asumimos que involucrará a la agencia humana y a los humanos para revisarlo, y mencionamos específicamente que queremos que estos sistemas sean responsables ante la sociedad en general. Y creo que la regulación también debería desempeñar un papel en eso».
La Comisión Europea reconoce en su propuesta que una prohibición temporal del reconocimiento facial «sería una medida de gran alcance que podría obstaculizar el desarrollo y la adopción de esta tecnología», por lo que preferiría utilizar los instrumentos regulatorios existentes disponibles bajo GDPR.
El vicepresidente y asesor legal en jefe de Microsoft, Brad Smith, pidió previamente regulaciones sobre el uso del reconocimiento facial. Sin embargo, ayer advirtió contra la prohibición temporal de la Comisión Europea.
Smith dijo que el reconocimiento facial era útil para que las ONG encontraran niños desaparecidos, informó Reuters.
«Realmente soy reacio a decir que impidamos que la gente use la tecnología de una manera que reúna a las familias cuando puede ayudarlas a hacerlo», dijo.
«Lo segundo que diría es que no lo prohíbas si realmente crees que hay una alternativa razonable que nos permitirá, por ejemplo, abordar este problema con un bisturí en lugar de un cuchillo de carnicero».
Smith ha argumentado anteriormente que las leyes de reconocimiento facial deberían exigir a las empresas de tecnología que proporcionen documentación transparente que explique las capacidades y limitaciones de su tecnología de reconocimiento facial.
Transmitió sus opiniones sobre la tecnología en diciembre de 2018 a raíz de las protestas de los empleados contra el trabajo de Microsoft en el desarrollo de tecnología de reconocimiento facial para el Servicio de Inmigración y Control de Aduanas (ICE, por sus siglas en inglés) de EE. UU.
VER: Google DeepMind gamifica la memoria con su último trabajo de IA
Si bien Smith se opone a la prohibición temporal propuesta por la CE sobre el reconocimiento facial, sus otros puntos de vista sobre la regulación de la tecnología no son tan diferentes.
La Comisión Europea ha propuesto un etiquetado voluntario, requisitos para las autoridades públicas que utilizan la tecnología, así como requisitos obligatorios basados en el riesgo para su uso en atención médica, transporte y vigilancia policial predictiva.
Smith ha pedido una legislación que exija evaluaciones de impacto para el uso de la tecnología, que notifique al público cuando el reconocimiento facial esté en uso y un requisito para que las personas den su consentimiento para el uso de la tecnología al ingresar a un local.
También ha pedido leyes que restrinjan el uso del reconocimiento facial al monitorear a personas de interés en espacios públicos y que este uso de la tecnología solo se permita con una orden judicial.
A principios de este mes, la Casa Blanca pidió a Europa que «evite modelos de mano dura que maten la innovación» y que considere un enfoque similar al de EE. UU., que desalienta a las agencias federales a tomar medidas regulatorias que obstaculicen la innovación y el crecimiento de la IA.
