«Ayúdenos», anunció Del Harvey, vicepresidente de confianza y seguridad de Twitter. Las redes sociales han propuesto un nuevo borrador de política para abordar la propagación de deepfakes en sus plataformas..
La compañía está instando a los usuarios de Twitter a que proporcionen algunos comentarios sobre la nueva estrategia, que luego se revisará y modificará antes de agregarla a Reglas de Twitter.
El borrador, que tiene como objetivo abordar lo que llama «medios sintéticos y manipulados» o falsificaciones profundas, describe las acciones que tomará Twitter si ve que dicho contenido se publica para engañar a las personas.
La nueva política permitirá a Twitter agregar una etiqueta junto a los tuits que compartan contenido que considere manipulado. La plataforma también advierte a los usuarios antes de que compartan o les gusten los tweets que contienen dichos medios etiquetados, y proporciona enlaces a fuentes que explican por qué creen que los medios son falsos.
Mirar: Cómo implementar la inteligencia artificial y el aprendizaje automático (Informe especial de MarketingyPublicidad.es)| Descarga el informe en formato PDF (República tecnológica)
Harvey agregó que los tuits pueden eliminarse si contienen contenido falso que podría amenazar la seguridad física de alguien «o causar otro daño grave».
«Queremos saber de usted», continuó Harvey, llamando a los usuarios de Twitter a completar una encuesta sobre la nueva política.
Entre otras cosas, la investigación preguntó si Twitter tiene la responsabilidad de eliminar los medios engañosos, si tiene derecho a eliminar los tuits que comparten deepfakes o si el gigante de las redes sociales debería tomar medidas contra las cuentas que comparten contenido falso.
Alternativamente, los usuarios pueden twittear sobre el borrador usando el hashtag #TwitterPolicyFeedback.
La medida sigue a otra actualización reciente de las reglas de Twitter, donde la compañía pidió a sus usuarios que contribuyeran con sus pensamientos e ideas, esta vez sobre su política sobre conductas de odio.
El pasado mes de julio, tras revisar 8.000 respuestas de más de 30 países, la plataforma Reglas ampliadas contra la conducta odiosa Incluye lenguaje que deshumaniza a otros basado en la religión.
Tradicionalmente, los cambios en las reglas de Twitter Logrado íntegramente en consulta con los equipos internos y el propio Comité de Confianza y Seguridad de la empresa.
El intento de Twitter de recopilar comentarios de los usuarios sobre sus políticas de deepfake se produce cuando la plataforma de redes sociales aumenta los esfuerzos para combatir la propagación de contenido falso en línea.
A principios de este año, un video manipulado de la presidenta de la Cámara de Representantes de los Estados Unidos, Nancy Pelosi, tuvo más de 1,4 millones de visitas en Facebook. Más tarde se descubrió que la velocidad del video se había reducido a aproximadamente el 75% de su velocidad original y que su voz había sido alterada.
A medida que se acercan las elecciones presidenciales de noviembre de 2020, las plataformas como Twitter se encuentran bajo una intensa presión para lidiar con la difusión de dicho contenido.
Facebook, Amazon y Microsoft lanzaron conjuntamente el DeepFake Detection Challenge (DFDC) en septiembre con un presupuesto de $10 millones para desarrollar una tecnología que pueda detectar videos manipulados por inteligencia artificial.
El principal problema encontrado por DFDC es que no existe una gran base de datos de deepfakes, lo que significa que no existe un punto de referencia de la industria para detectar contenido manipulado.
Mirar: California toma deepfakes en pornografía y política
Solo unas semanas después, Google lanzó un conjunto de datos de 3000 videos de 28 actores en un intento de respaldar los sistemas diseñados para detectar falsificaciones profundas generadas por IA.
Si bien estos movimientos muestran que las plataformas de redes sociales están intensificando sus esfuerzos para abordar el contenido falso, también muestran que todavía no existen métodos avanzados para detectar de manera efectiva las falsificaciones profundas.
El reciente anuncio de Twitter no ofreció una nueva solución técnica. De hecho, la publicación incluye un enlace a un formulario para completar «Si desea trabajar con nosotros en una solución para detectar medios sintéticos y manipulados».
Como tal, no está claro cómo la empresa podría detectar contenido falso de manera efectiva.
El período de comentarios de Twitter sobre su nueva política sobre deepfakes finaliza el 27 de noviembre a las 11:59 p. m. GMT. La compañía dijo que hará otro anuncio al menos 30 días antes de que la política entre en vigencia.
