Frances Haugen habló en Londres ante el Parlamento del Reino Unido como parte de una investigación sobre el proyecto de ley de seguridad en línea. Imagen: Parlamento del Reino Unido 2021 / Annabel Moeller
Se deben controlar las plataformas de redes sociales que usan algoritmos opacos para difundir contenido dañino, de lo contrario, pueden desencadenar un número creciente de eventos violentos, como los ataques al edificio del Capitolio de EE. UU. que ocurrieron en enero pasado, según la denunciante de Facebook, Frances Haugen.
Según Haugen, eventos como los disturbios en el Capitolio y otros conflictos alimentados por las redes sociales son un anticipo de lo que está por venir.
“No tengo ninguna duda de que los eventos que estamos viendo en todo el mundo, cosas como Myanmar y Etiopía, son los capítulos iniciales”, dijo Haugen. «Porque la calificación basada en el compromiso hace dos cosas. Una, prioriza y amplifica el contenido divisivo, polarizador y extremo. Y dos, lo concentra».
VER: El precio de las acciones de Twitter sube después de cumplir con las expectativas de crecimiento de ingresos y usuarios
Haugen habló en Londres ante el Parlamento del Reino Unido como parte de una investigación sobre el proyecto de ley de seguridad en línea que presentó el gobierno a principios de este año. Este proyecto de ley propone obligar a las empresas a proteger a sus usuarios de contenidos nocivos que van desde la pornografía vengativa hasta la desinformación, pasando por discursos de odio y abusos racistas.
Los parlamentarios estaban tomando evidencia de Haugen porque recientemente salió a la luz cuando la denunciante detrás de la bomba filtró documentos internos de Facebook, incluidos archivos internos, borradores de presentaciones, investigaciones y comunicaciones del personal, que obtuvo mientras trabajaba como gerente principal de productos para el cívico de Facebook. equipo de desinformación.
Ahora conocido como los archivos de Facebook, las filtraciones fueron publicadas por El periodico de Wall Street y explore una variedad de temas, incluido el uso de diferentes políticas de moderación de contenido para usuarios de alto perfil, la difusión de información errónea y el impacto de Instagram en la salud mental de los adolescentes. Las revelaciones incluso se han convertido en un catalizador para una investigación del Senado sobre las operaciones de Facebook.
En este contexto, dijo Haugen, los gobiernos deben intensificar e implementar una regulación más estricta. «Me presenté ahora porque ahora es el momento de actuar», dijo Haugen. «Los fracasos de Facebook hacen que sea más difícil actuar».
Haugen argumentó que el gigante de las redes sociales «sin duda» está empeorando el odio, en particular debido a su uso de un algoritmo de clasificación basado en el compromiso, que empuja el contenido que probablemente genere más compromiso hacia la parte superior de las líneas de tiempo de los usuarios.
Debido a que el contenido extremo tiende a ser más viral, esto puede crear un efecto de cámara de eco, lo que significa que los usuarios pueden caer en una madriguera de conejo y terminar consumiendo contenido que es cada vez más polarizador y divisivo.
Por ejemplo, alguien que busca recetas saludables podría comenzar a ver contenido relacionado con la anorexia; y alguien que lea contenido de derecha podría ser empujado hacia publicaciones de extrema derecha. El problema no se limita a Facebook: el ex ingeniero de software de Google, Guillaume Chaslot, hizo acusaciones similares contra el algoritmo de recomendación de YouTube.
«El peligro con Facebook no es que las personas digan cosas malas; se trata de los sistemas de amplificación que dan desproporcionadamente a las personas que dicen cosas extremas y polarizadoras el megáfono más grande en la sala», dijo Haugen.
El problema también se extiende a la publicidad paga, según el denunciante. Dado que es más probable que los anuncios divisivos generen compromiso, es mucho más barato ejecutar campañas publicitarias «enojadas», lo que llevó a Haugen a decir que el sistema actual está subsidiando el odio en las plataformas de redes sociales.
Esto es algo que Facebook ha refutado: en la semana anterior a la aparición de Haugen en el Parlamento del Reino Unido, el gigante de las redes sociales publicó un informe en el que afirmaba que la prevalencia del discurso de odio se había reducido en casi un 50 % en la plataforma durante los últimos tres trimestres y ahora representa solo 0.05% de todo el contenido visto.
Un portavoz de Facebook dijo: «Al contrario de lo que se discutió en la audiencia, siempre hemos tenido el incentivo comercial de eliminar el contenido dañino de nuestros sitios. La gente no quiere verlo cuando usa nuestras aplicaciones y los anunciantes no quieren verlo». sus anuncios junto a él. Es por eso que hemos invertido $ 13 mil millones y contratado a 40,000 personas para hacer un trabajo: mantener a las personas seguras en nuestras aplicaciones «.
Pero Haugen argumenta que Facebook no se autorregulará para proteger a sus usuarios, porque las tasas de participación más bajas son contradictorias con el modelo comercial de la empresa. «Facebook no ha estado dispuesto a aceptar que se sacrifiquen ni siquiera pequeñas porciones de ganancias por seguridad», dijo, coincidiendo con las afirmaciones que hizo anteriormente de que la empresa era «moralmente corrupta» y optó por aumentar las ganancias a toda costa.
Se requiere acción del gobierno
Por lo tanto, para evitar que los acontecimientos se intensifiquen y se conviertan en más protestas violentas, será necesaria la acción del gobierno. Haugen aplaudió los esfuerzos del Reino Unido en la redacción del proyecto de ley de seguridad en línea, calificó las leyes propuestas como «líderes mundiales» en lo que respecta a la regulación de las plataformas sociales y, en particular, destacó la necesidad de imponer un deber de cuidado a empresas como Facebook para proteger a los usuarios.
«No me puedo imaginar que Mark no esté prestando atención a lo que estás haciendo», dijo Haugen cuando se le preguntó si el proyecto de ley podría mantener despierto al director ejecutivo de Facebook, Mark Zuckerberg.
Haugen recomendó que el proyecto de ley de seguridad en línea debería incluir evaluaciones de riesgo obligatorias para los sistemas de clasificación basados en el compromiso, que serían supervisados por reguladores externos en lugar de juntas dentro de Facebook; y que las preocupaciones sobre la publicidad pagada se incluyan en la factura.
También sugirió exigir a Facebook que ponga los datos a disposición de los investigadores fuera de la empresa, para permitir la investigación de posibles problemas desde el exterior, y recomendó la moderación obligatoria de los grupos de Facebook cuando superen un cierto número de usuarios.
VER: Facebook va por un lavado de cara
Finalmente, Haugen abordó el tema del cifrado de extremo a extremo, que ha generado controversia desde la publicación del proyecto de ley. Los grupos de libertad de expresión, en efecto, han expresado su preocupación de que el proyecto de ley requerirá la abolición del cifrado de extremo a extremo, para permitir que las plataformas de redes sociales escaneen mensajes privados y busquen contenido dañino, a costa de la privacidad del usuario.
«Admito el acceso al cifrado de extremo a extremo y uso el cifrado de extremo a extremo de código abierto todos los días», dijo Haugen. «Mi red de apoyo social se encuentra actualmente en un servicio de cifrado de extremo a extremo de código abierto».
Los planes de Facebook para el cifrado de extremo a extremo, continuó Haugen, son problemáticos porque el producto no es de código abierto, lo que hace imposible verificar el grado en que los usuarios estarán efectivamente protegidos. Esto puede dar lugar a que algunos usuarios compartan información confidencial en línea mientras piensan que sus datos están encriptados, argumentó, cuando en realidad pueden estar en peligro de ser leídos por terceros.
Facebook, por su parte, ha acogido con satisfacción el intento del Reino Unido de regular las plataformas de redes sociales. “Si bien tenemos reglas contra el contenido dañino y publicamos informes de transparencia regulares, estamos de acuerdo en que necesitamos una regulación para toda la industria para que empresas como la nuestra no tomen estas decisiones por nuestra cuenta”, dijo un portavoz de Facebook. «El Reino Unido es uno de los países que están a la vanguardia y nos complace que el proyecto de ley de seguridad en línea esté avanzando».
