Todos los países, incluido Singapur, deberán decidir lo que consideran usos aceptables de la inteligencia artificial (IA), incluido si el uso de la tecnología de reconocimiento facial en espacios públicos debe aceptarse o prohibirse. Las discusiones deben buscar equilibrar las oportunidades del mercado y garantizar el uso ético de la IA, de modo que dichas pautas sean utilizables y fáciles de adoptar.
Sobre todo, los gobiernos deben impulsar el debate público y recopilar comentarios para que las regulaciones de IA sean relevantes para su población local, dijo Ieva Martinkenaite, directora de análisis e IA de Telenor Research. La empresa de telecomunicaciones noruega aplica modelos de inteligencia artificial y aprendizaje automático para ofrecer campañas de ventas dirigidas y al cliente más personalizadas, lograr mejores eficiencias operativas y optimizar sus recursos de red.
Por ejemplo, la tecnología ayuda a identificar los patrones de uso de los clientes en diferentes ubicaciones y estos datos se aprovechan para reducir o apagar las antenas donde el uso es bajo. Esto no solo ayuda a reducir el consumo de energía y, por lo tanto, las facturas eléctricas, sino que también mejora la sostenibilidad ambiental, dijo Martinkenaite en una entrevista con MarketingyPublicidad.es.
El ejecutivo de Telenor también preside el grupo de trabajo de IA en GSMA-Asociación Europea de Operadores de Redes de Telecomunicaciones, que redacta la regulación de IA para la industria en Europa, convirtiendo las pautas éticas en requisitos legales. También proporciona información sobre la posición del gobierno noruego sobre los actos normativos de la UE propuestos.
Cuando se le preguntó qué lecciones podría ofrecer Singapur, que en octubre pasado publicó pautas sobre el desarrollo de la ética de la IA, Martinkenaite señaló la necesidad de que los reguladores sean prácticos y comprendan el impacto comercial de las legislaciones.
Los marcos sobre la ética y la gobernanza de la IA pueden verse bien en el papel, pero también debe haber esfuerzos para garantizar que sean utilizables en términos de adopción, dijo. Esto subrayó la necesidad de un diálogo y una retroalimentación constantes, así como de una mejora continua, por lo que cualquier regulación siguió siendo relevante.
Por un lado, dichas pautas deben proporcionarse junto con las estrategias de IA, incluidos los tipos de negocios y modelos operativos que el país debe seguir y los aspectos destacados de las industrias que podrían beneficiarse mejor de su implementación.
En este aspecto, dijo que la UE y Singapur habían identificado industrias estratégicas que creían que el uso de datos y la IA podían escalar. Estos sectores también deben ser competitivos a nivel mundial y donde deben ir las mayores inversiones del país.
Singapur en 2019 dio a conocer su estrategia nacional de IA para identificar y asignar recursos a áreas de enfoque clave, así como allanar el camino para que el país, para 2030, sea un líder en el desarrollo e implementación de «soluciones de IA escalables e impactantes» en verticales clave. Estos incluían manufactura, finanzas y gobierno.
Al impulsar la adopción significativa de la IA, las naciones deben esforzarse por buscar el «equilibrio» entre aprovechar las oportunidades del mercado y garantizar el uso ético de la tecnología.
Al señalar que la tecnología evolucionaba constantemente, dijo que tampoco era posible que las regulaciones se mantuvieran siempre al día.
Al redactar las regulaciones de IA de la región, los legisladores de la UE también se enfrentaron a varios desafíos, incluida la forma en que las leyes que rigen el uso ético de la IA podrían introducirse sin afectar el flujo de talento e innovación, explicó. Esto resultó ser un obstáculo importante, ya que existía la preocupación de que las regulaciones pudieran resultar en un exceso de trámites burocráticos, que las empresas podrían tener dificultades para cumplir.
También hubo preocupaciones sobre la creciente dependencia de las infraestructuras de TI y los marcos de aprendizaje automático que fueron desarrollados por un puñado de gigantes de Internet, incluidos Amazon, Google y Microsoft, así como otros en China, dijo Martinkenaite.
Citó el desconcierto entre los formuladores de políticas de la UE sobre cómo la región podría mantener su soberanía e independencia en medio de este panorama emergente. Específicamente, las discusiones giraron en torno a la necesidad de crear tecnologías habilitadoras clave en IA dentro de la región, como datos, poder de cómputo, almacenamiento y arquitecturas de aprendizaje automático.
Con este enfoque en construir una mayor independencia de la tecnología de IA, entonces era fundamental que los gobiernos de la UE crearan incentivos e impulsaran las inversiones localmente en el ecosistema, señaló.
Las crecientes preocupaciones sobre el uso responsable de la IA también estaban impulsando gran parte de las discusiones en la región, al igual que en otras regiones como Asia, agregó.
Si bien aún existía incertidumbre sobre cuáles eran los mejores principios, enfatizó la necesidad de que las naciones participen en las discusiones y los esfuerzos para establecer los principios éticos de la IA. Esto uniría a la industria global para acordar estos principios y adherirse a ellos.
La jefa de derechos humanos de las Naciones Unidas, Michelle Bachelet, pidió recientemente que se prohíba el uso de la IA si viola el derecho internacional de los derechos humanos. Destacó la urgencia de evaluar y abordar los riesgos que la IA podría traer a los derechos humanos, y señaló que se debe implementar una legislación más estricta sobre su uso donde plantee mayores riesgos para los derechos humanos.
Bachelet dijo: «La IA puede ser una fuerza para el bien, ayudando a las sociedades a superar algunos de los grandes desafíos de nuestro tiempo. Pero las tecnologías de IA pueden tener efectos negativos, incluso catastróficos, si se utilizan sin tener en cuenta cómo afectan los derechos humanos de las personas». «
El informe de la ONU instó a los gobiernos a tomar medidas más enérgicas para mantener los algoritmos bajo control. Específicamente, recomendó una moratoria sobre el uso de tecnologías biométricas, incluido el reconocimiento facial, en espacios públicos hasta que, al menos, las autoridades pudieran demostrar que no hubo problemas significativos con la precisión o impactos discriminatorios.
Estos sistemas de inteligencia artificial, que se utilizaron cada vez más para identificar personas en tiempo real y a distancia y potencialmente permitieron el seguimiento ilimitado de personas, también deben cumplir con los estándares de privacidad y protección de datos, señaló el informe. Agregó que se «necesita con urgencia» más orientación sobre los derechos humanos en el uso de la biometría.
Encontrar el equilibrio entre la ética, el negocio de la IA
Para impulsar mejor la adopción de la IA ética, Martinkenaite dijo que dichas pautas deben proporcionarse junto con las estrategias de IA, incluidos los tipos de negocios y modelos operativos que el país debe seguir y los aspectos destacados de las industrias que podrían beneficiarse mejor de su implementación.
En este aspecto, dijo que la UE y Singapur habían identificado industrias estratégicas que creían que el uso de datos y la IA podían escalar. Estos sectores también deben ser competitivos a nivel mundial y donde deben ir las mayores inversiones del país.
Singapur en 2019 dio a conocer su estrategia nacional de IA para identificar y asignar recursos a áreas de enfoque clave, así como allanar el camino para que el país, para 2030, sea un líder en el desarrollo e implementación de «soluciones de IA escalables e impactantes» en verticales clave. Estos incluían manufactura, finanzas y gobierno.
Al impulsar la adopción significativa de la IA, las naciones deben esforzarse por buscar el «equilibrio» entre aprovechar las oportunidades del mercado y garantizar el uso ético de la tecnología.
Martinkenaite señaló que los gobiernos y los reguladores de todo el mundo tendrían que determinar qué significa ser ético en el uso de la IA y la capacidad de rastrear datos en su país, ya que su aplicación no es discriminatoria.
Esto sería pertinente especialmente en las discusiones sobre el riesgo que la IA podría introducir en ciertas áreas, como el reconocimiento facial. Si bien cualquier tecnología en sí misma no es necesariamente mala, su uso podría considerarse como tal, dijo.
La IA, por ejemplo, podría utilizarse para beneficiar a la sociedad en la detección de delincuentes o la prevención de accidentes y delitos. Sin embargo, hubo desafíos en dicho uso en medio de la evidencia de resultados discriminatorios, incluso contra ciertas razas, clases económicas y género. Estos podrían presentar altos riesgos políticos o de seguridad.
Martinkenaite señaló que cada país y gobierno necesitaba decidir cuáles eran las formas aceptables y preferidas para que sus ciudadanos aplicaran la IA. Estos incluyeron preguntas sobre si el uso de tecnología de reconocimiento biométrico impulsado por IA en videos e imágenes de rostros de personas para fines de aplicación de la ley debería aceptarse o prohibirse.
Señaló el debate en curso en la UE, por ejemplo, sobre si el uso de la tecnología de reconocimiento facial impulsada por IA en lugares públicos debe prohibirse por completo o usarse solo con excepciones, como en la prevención o la lucha contra el crimen.
Las opiniones de sus ciudadanos también deben sopesarse sobre estos temas, dijo, y agregó que aquí no hubo decisiones correctas o incorrectas. Estas eran simplemente decisiones que los países tendrían que decidir por sí mismos, dijo, incluidas las naciones multiétnicas como Singapur.
«Es un diálogo que todo país necesita tener», dijo.
Sin embargo, Martinkenaite señaló que hasta que los problemas de veracidad relacionados con el análisis de los diferentes colores de la piel y las características faciales se resolvieran correctamente, el uso de dicha tecnología de IA no debería implementarse sin la intervención humana, la gobernanza adecuada o la garantía de calidad.
Instó a la necesidad de una inversión continua en la investigación y los conjuntos de habilidades de aprendizaje automático, para que la tecnología pueda ser mejor y más sólida.
Señaló que la adopción de una estrategia ética de IA también podría presentar oportunidades para las empresas, ya que los consumidores querrían comprar productos y servicios que fueran seguros y de organizaciones que cuidaran adecuadamente sus datos personales.
Las empresas que entendieron tales necesidades e invirtieron en el talento y los recursos necesarios para construir un entorno de IA sostenible serían diferenciadores del mercado, agregó.
Un informe de FICO publicado en mayo reveló que casi el 70 % de 100 líderes enfocados en IA en la industria de servicios financieros no pudieron explicar cómo se tomaron las decisiones o predicciones específicas del modelo de IA. Alrededor del 78 % dijo que estaban «poco equipados para garantizar las implicaciones éticas del uso de nuevos sistemas de IA», mientras que el 35 % dijo que su organización hizo esfuerzos para usar la IA de manera transparente y responsable.
Casi el 80 % dijo que tuvo dificultades para lograr que sus compañeros ejecutivos consideraran o priorizaran las prácticas éticas de uso de IA, y el 65 % dijo que su organización tenía procesos «ineficaces» para garantizar que los proyectos de IA cumplieran con las regulaciones.
