Facebook ha eliminado en el segundo trimestre 22,5 millones de posteos de su plataforma por violar las políticas de la compañía sobre mensajes de odio, más del doble del número de los primeros tres meses del año, y muy por encima de los 2,5 millones de mensajes de ese tipo de dos años atrás.
La compañía afirmó que ahora busca y elimina alrededor del 95% de las violaciones al contenido de odio antes de que un usuario siquiera pudiera registrarlo, utilizando sistemas automáticos de software, según un reporte conocido los últimos días. La data muestra que Facebook también borró 1.500 cuentas falsas en el mismo período, y millones de posteos que violaban sus políticas alrededor de grupos organizados de odio y terrorismo.
Grupos de derechos civiles habían afirmado que Facebook no ponía en vigor sus políticas contra los mensajes de odio y desinformación, y organizaron un boicot de publicidad el mes pasado.
Esta red social ha argumentado que sus sistemas de detección de textos de odio están mejorando, y lanzó informes trimestrales para demostrar cuánto contenido elimina el servicio. Ejecutivos de la empresa han dicho que la automatización es esencial, porque la compañía tiene más de 3.000 millones de usuarios mensuales en todo el mundo que usan al menos uno de sus productos. Las mejoras en los sistemas automáticos de Facebook condujeron a un pico en los retiros de material, dijo Guy Rosen, vicepresidente de la compañía.
“El cambio fue producido en gran parte por el incremento en la detección proactiva provocada por los cambios tecnológicos que hemos implementado”, dijo Rosen en una reunión con periodistas. En un posteo de blog, Facebook aseguró que su tecnología había sido expandida para detectar mejor a ese tipo de mensajes en otros idiomas además del inglés, entre ellos el español, árabe y birmano.
Pero los auditores están preocupados porque ese enfoque puede conducir a crear puntos ciegos si los humanos no revisan los posteos que pueden ser truculentos o matizados, como los que desinforman sobre las elecciones. La auditoría informó que en julio “la mayoría de los posteos reportados como ‘interferencia a los votantes’ no fueron enviados a revisores humanos de contenidos”.
Por su parte Facebook no suministró el número de posteos eliminados por inexactitudes o falsedades sobre el voto, pero ha comenzado a etiquetar a todos los mensajes de tipo electoral con un link para demandar más información. La compañía también dijo que había desactivado más de 7 millones de posteos sobre el coronavirus durante el período de abril a junio, y etiquetó a otros 98 millones de mensajes en la principal cadena social.
Actividades maliciosas
Facebook también está acosada por algunas actividades maliciosas a pesar de los esfuerzos de la compañía. NBC News reportó el lunes que la unidad Groups & Pages, dedicada al grupo de extrema derecha QAnon, tiene “millones de seguidores” en la plataforma. Pero en el informe del medio social no se menciona a QAnon.
Monika Bickert, jefa global de management de la red social, dijo que ésta había eliminado las páginas de QAnon en el pasado, y que “se seguirán observando otros caminos para asegurarnos de revisar el contenido”.
También en la última semana, dos legisladores del partido Demócrata en el Comité de Energía y Comercio, que supervisa la política tecnológica, instaron a los miembros del nuevo directorio de supervisión de Facebook a controlar el contenido destinado a la prensa, y a renunciar si el medio social se rehúsa a escuchar.
El representante Frank Pallone y otros dos legisladores de la oposición marcaron la responsabilidad del directorio de interpretar las políticas existentes, en lugar de recomendar reglas para frenar a los contenidos divisivos y conspirativos.
“Por esa razón, creemos que el directorio de supervisión no será capaz de detener el daño que Facebook está infligiendo a la sociedad, a menos que la propia red social arregle sus políticas de contenidos y ponga en marcha un directorio realmente independiente cuyas decisiones no puedan ser anuladas por Mark Zuckerberg o sus subordinados”, escribieron Pallone y los representantes Jan Schakowsky de Illinois y Mike Doyle de Pennsilvania, en una carta dirigida al directorio.
Facebook ha dicho que ese directorio, que todavía no está operativo, tomará las decisiones finales sobre los posteos que hayan sido eliminados de la plataforma de la compañía pero que aún siguen en controversia.
*Mermelada Inc es una agencia mendocina de creatividad y contenidos.