Twitter ha implementado nuevas reglas para abordar el uso de deepfakes para engañar a las personas y en marzo también comienza a agregar etiquetas a ciertos tweets que contienen medios manipulados.
La empresa eliminará los medios manipulados, incluidos los deepfakes, pero solo si es probable que el contenido cause daño, como amenazas a la seguridad física de un grupo o persona, o si el tuit crea un riesgo de violencia masiva o disturbios civiles generalizados.
El umbral de daño también se aplica al acecho, el contenido que pretende silenciar a alguien, la supresión de votantes y la intimidación.
VER: Cómo implementar la IA y el aprendizaje automático (Informe especial de MarketingyPublicidad.es) | Descarga el informe en PDF (República Tecnológica)
El escenario más probable bajo el cual Twitter eliminará los medios es si el contenido cumple con los tres criterios. Es decir, si se altera significativa y engañosamente, si se comparte de manera engañosa y si es probable que cause daño.
Twitter agregó hoy una nueva cláusula en términos que cubren «medios sintéticos y manipulados».
«No puede compartir engañosamente medios sintéticos o manipulados que puedan causar daño. Además, podemos etiquetar los Tweets que contienen medios sintéticos y manipulados para ayudar a las personas a comprender su autenticidad y brindar contexto adicional». dice en los terminosque ofrecen un enlace a un explicación más detallada de su política de eliminación.
El mes pasado, Facebook también describió nuevas reglas para los medios manipulados y dice que eliminará un video si ha sido sintetizado «de maneras que no son evidentes para una persona promedio y probablemente inducirían a error a alguien a pensar que el sujeto de un video dijo palabras que en realidad no dijeron». Ya aplica etiquetas a algunos medios manipulados.
Las nuevas reglas de las redes sociales sugieren que las empresas están tratando de controlar la información errónea antes de las elecciones presidenciales de EE. UU. de 2020 de una manera que aún permita la libertad de expresión.
Las empresas se han enfrentado al escrutinio de los legisladores de EE. UU. y Europa por no hacer lo suficiente para contrarrestar las noticias falsas, particularmente en la intromisión electoral de gobiernos extranjeros.
Además de etiquetar los tuits, Twitter dice que mostrará una advertencia a las personas antes de que retuiteen, reducirá la visibilidad del tuit etiquetado y evitará que se recomiende, y proporcionará explicaciones y aclaraciones adicionales.
«Esto será un desafío y cometeremos errores en el camino; apreciamos la paciencia. Sin embargo, estamos comprometidos a hacerlo bien. Actualizar nuestras reglas en público y con participación democrática seguirá siendo fundamental para nuestro enfoque». dijo Yoel Roth, jefe de integridad del sitio de Twitter.
Jigsaw, de Alphabet, matriz de Google, ha lanzado una nueva herramienta de verificación de hechos llamada Assembler que utiliza inteligencia artificial para ayudar a los reporteros a detectar imágenes manipuladas. La idea es que sea más rápido para los verificadores de datos y los reporteros detectar cuándo se ha manipulado una imagen.
Assembler utiliza modelos de manipulación de imágenes desarrollados por investigadores de la Universidad de Maryland, la Universidad Federico II de Nápoles y la Universidad de California, Berkeley. La herramienta utiliza los modelos para mostrar la probabilidad de que una imagen haya sido manipulada. Google Research también contribuyó al proyecto.
Según Jared Cohen de Jigsaw, Assembler es una «plataforma experimental en etapa inicial».
Se llama Ensamblador porque reúne múltiples detectores de manipulación de imágenes de académicos en una sola herramienta para crear una evaluación más completa.
VER: Reality Engines ofrece un tour de force de aprendizaje profundo para desafiar a Amazon y otros en Enterprise AI
Jigsaw también creó un StyleGAN, en referencia a las redes antagónicas generativas que se usan a menudo para crear falsificaciones profundas, para detectar falsificaciones profundas. Utiliza el aprendizaje automático para detectar diferencias entre imágenes de personas reales y manipuladas.
Finalmente, Jigsaw ha lanzado la primera edición de su revista en línea, The Current. El primer número cubre campañas de desinformación y contramedidas.
Jigsaw publicó una herramienta de visualización de datos que incluye un mapa de campañas de desinformación recientes en todo el mundo, las tácticas utilizadas y las plataformas que fueron explotadas. La herramienta se basa en datos recopilados por el Laboratorio de Investigación Forense Digital (DFRLab) del Atlantic Council.
