Dados los planes filtrados de la UE para la regulación de la IA, que exige la prohibición de tipos específicos de sistemas de IA, como los que rastrean directamente a las personas y crean puntajes de crédito social, el tema de la regulación en los EE. UU. ha estado en la mente de la gente. La IA está llegando, entonces, ¿qué pueden hacer los reguladores, y qué no deben hacer en absoluto, para proteger a los ciudadanos y consumidores y al mismo tiempo fomentar el desarrollo tecnológico?
Para obtener información, contacté a Haniyeh Mahmoudian, Ph.D., especialista en ética global de IA en DataRobot, una empresa con sede en Boston que permite a los clientes crear y validar modelos de aprendizaje automático a partir de sus datos. Como experta en sesgo y ética de la IA, Haniyeh está en una buena posición para hablar sobre las nuevas regulaciones y lo que significan para los EE. UU., así como los riesgos inherentes a la IA no controlada y las acciones que deben tomar los reguladores en el futuro.
GN: ¿Cuáles son las conclusiones más importantes de los planes filtrados de la UE para la regulación de la IA? ¿Qué te sorprendió?
Haniyeh Mahmoudian: Hablando del lado de los practicantes, una cosa que realmente apreciamos sobre el borrador filtrado es la ayuda para aclarar algunas ambigüedades. En ausencia de legislación, ha habido mucha ambigüedad en la definición de casos de uso que afectarán la vida de las personas, o lo que llamamos casos de uso de alto riesgo. Tener esos casos de uso de alto riesgo definidos es realmente útil, y es importante señalar que reconocen que es una lista en evolución a medida que la tecnología continúa avanzando.
El requisito de auditoría del reglamento fue inesperado pero no sorprendente. Aquí en DataRobot hemos implementado marcos y procesos en torno a la evaluación de riesgos e impactos que se aplican a los proyectos en los que estamos trabajando.
GN: ¿Por qué la UE se toma tan en serio la regulación? ¿Cuáles son las grandes preocupaciones y los grandes objetivos, según su comprensión del plan?
Haniyeh Mahmoudian: La UE siempre se ha tomado en serio las regulaciones tecnológicas y la protección de sus ciudadanos de la victimización de datos, y ya cuenta con una sólida base regulatoria con GDPR para expandirse a la IA. El factor impulsor es la protección de los ciudadanos, incluso a expensas de la prosperidad económica que podrían posibilitar algunas de estas tecnologías.
GN: ¿Dónde está EE. UU. con respecto a la consideración de la regulación de la IA? ¿Puede explicar brevemente la gama de opiniones sobre el asunto de varios grupos/partes interesadas?
Haniyeh Mahmoudian: EE. UU. está equilibrando múltiples prioridades y partes interesadas mientras trabaja para lograr una legislación que garantice que la tecnología se construya teniendo en cuenta nuestros ideales democráticos. El Congreso de EE. UU. ha propuesto una legislación como la Ley de responsabilidad algorítmica, que movería nuestro estado actual más hacia las regulaciones de la UE, que pueden ser las más sólidas del mundo. También hay instituciones como el Centro Conjunto de Inteligencia Artificial y la Comisión de Seguridad Nacional sobre Inteligencia Artificial que han declarado que la IA es necesaria como un problema de seguridad. Además de las entidades gubernamentales, también sabemos que las organizaciones ven a la IA como un catalizador económico, lo que significa que los reguladores deben lograr el equilibrio adecuado entre garantizar una IA ética, justa e imparcial sin sofocar la innovación.
GN: ¿Qué debería sacar Estados Unidos del plan de la UE? ¿Algo que los reguladores estadounidenses deberían hacer de manera diferente, en su opinión?
Haniyeh Mahmoudian: Es importante que las reglamentaciones se centren en asegurarse de que la tecnología se construya teniendo en cuenta ciertos ideales sociales y éticos, lo que permite a las organizaciones aprovechar la IA en beneficio del mundo de una manera equitativa, ética y explicable. Las nuevas regulaciones de la UE son muy prometedoras al crear instancias de un comité de colaboración para evaluar la tecnología y definir los usos de IA de «alto riesgo» a medida que la tecnología evoluciona. Como se indicó anteriormente, las regulaciones también aclaran cierta ambigüedad en torno a lo que se define como IA de alto riesgo, algo que sería muy valioso en los EE. UU. Algunos pueden considerar que las regulaciones de la UE son demasiado prescriptivas. Además, algunos de los requisitos pueden obstaculizar las pequeñas empresas y las empresas emergentes. Sin duda es un equilibrio que tenemos que lograr.
GN: ¿Qué está en juego si no regulamos la IA pronto? ¿Cuál es un cronograma realista para la regulación dentro de los EE. UU.?
Haniyeh Mahmoudian: Creo que necesitamos abrir nuestras mentes a alguna regulación en el espacio debido al impacto humanístico de estos sistemas. En una empresa, un gerente de contratación sesgado, aunque poco ético, tiene un impacto limitado ya que es una sola persona y una sola empresa. Sin embargo, un sistema habilitado para IA utilizado en la misma situación de contratación tiene el potencial de perjudicar tanto a la empresa como a los solicitantes. Lo mismo es cierto para los casos de uso en el gobierno o la seguridad pública: existe el riesgo de que, si no regulamos, se pueda causar un daño real a las personas. Al mismo tiempo, también debemos recordar que la IA se puede utilizar para ayudar con los problemas que enfrenta nuestra propia existencia, como la inseguridad alimentaria, el cambio climático y la atención médica. Sin duda, es un equilibrio determinar cuánta regulación es demasiada o demasiado poca.
Como se mencionó anteriormente, EE. UU. ya se ha movido hacia las regulaciones y ha habido legislaciones propuestas por el Congreso. Nos estamos moviendo en la dirección correcta, pero es importante garantizar que la tecnología se construya en base a nuestros ideales.
