Informe de Facebook revela que la IA está borrando el 97% de los «discursos de odio» antes de que alguien los denuncie


Facebook se ha felicitado a sí mismo por haber eliminado casi toda la «incitación al odio» que supuestamente infringía sus normas. Pero no solo se eliminó la mayor parte del contenido antes de que nadie pudiera señalarlo, sino que ni siquiera se permitió a los usuarios apelar la mayoría de las eliminaciones.

Publicidad:

Al presentar el jueves su Informe de Cumplimiento de las Normas Comunitarias correspondiente al cuarto trimestre de 2020, Facebook se jactó de que su uso ampliado de la inteligencia artificial le había ayudado a eliminar casi el doble de contenido de «acoso e intimidación» que el trimestre anterior, solo una de las varias categorías en las que las eliminaciones se dispararon, mientras que su filial de Instagram amplió drásticamente su capacidad para detectar contenido relacionado con el suicidio y las autolesiones.

Facebook eliminó 6,3 millones de artículos de acoso, casi el doble de los 3,5 millones del trimestre anterior, con la ayuda en gran parte de su tecnología de IA.

Publicidad:

La ampliación de la capacidad de traducción le ayudó a eliminar 26,9 millones de contenidos de «incitación al odio», frente a los 22,1 millones del tercer trimestre. Además, Instagram ha eliminado 6,6 millones de mensajes de incitación al odio y ha duplicado la cantidad de contenidos sobre suicidios y autolesiones, pasando de 1,3 a 3,4 millones este trimestre.

A pesar de que las cifras aumentan en todos los ámbitos, no hay pruebas de que el aumento de las eliminaciones se traduzca necesariamente en una mejor experiencia de usuario. La gran mayoría de los contenidos se eliminan automáticamente, por los sistemas de la plataforma, antes de que un solo usuario pueda verlos, y mucho menos denunciarlos por infringir alguna norma.

Sin embargo, el gigante de las redes sociales se jactó de que el 97 por ciento del «discurso de odio» eliminado de la plataforma fue eliminado por la IA antes de que un solo humano pudiera ver y/o sentirse ofendido por él, un aumento del tres por ciento con respecto al trimestre anterior y un enorme aumento del 16,5 por ciento desde el último trimestre de 2019.

Es difícil decir cómo se sintieron los usuarios con el aumento de la niñera de contenido de la plataforma. Aunque Facebook normalmente permite a los usuarios apelar sus decisiones de eliminar contenido, «una reducción temporal en [su] capacidad de revisión como resultado de Covid-19» significó que las opciones de apelación de los usuarios se redujeron severamente, admitió la plataforma.

Publicidad:

No obstante, el director de tecnología de Facebook, Mike Schroepfer, apenas pudo contener su entusiasmo por el ritmo de «mejora» de sus herramientas de detección de discursos de odio mediante IA, señalando que en el último trimestre de 2017 solo se había eliminado el 24% de este tipo de contenidos sin intervención humana y comparando las herramientas antiacoso de Facebook con los avances científicos y tecnológicos que salvan vidas.

Le recomendamos:  Científicos crean psicodélicos sin alucinaciones que podrían combatir múltiples enfermedades

«Cuando se observan los tiempos en los que las nuevas tecnologías han ayudado a resolver los problemas más difíciles a los que se enfrenta nuestro mundo, desde la curación de enfermedades hasta la producción de coches más seguros, el progreso se produjo de forma incremental a lo largo de décadas, a medida que las tecnologías se perfeccionaban y mejoraban», se jactó Schroepfer, quien afirmó haber escuchado «la misma historia de mejoras constantes y continuas en estos días cuando hablo con los ingenieros que construyen sistemas de IA que pueden evitar que el discurso de odio y otros contenidos no deseados se propaguen por Internet».

Sin embargo, como han dejado claro los numerosos usuarios insatisfechos de Facebook que han sido expulsados de la plataforma o han migrado por su propia voluntad, la «incitación al odio» está en el ojo del espectador. La plataforma perdió dos millones de usuarios sólo en América del Norte en el tercer trimestre de 2020, y cayó otro millón en el cuarto trimestre.

Eso no perjudicó sus ganancias, pero el gigante tecnológico ha tomado una serie de decisiones que alienan a los usuarios recientemente y que están llevando incluso a los usuarios de toda la vida a sus competidores. Se cree que el reciente ultimátum a los usuarios de la filial de mensajería cifrada WhatsApp, en el que se exige a los usuarios que compartan sus datos privados con Facebook o eliminen la aplicación, ha hecho crecer las filas de la aplicación de mensajería cifrada Telegram, que aumentó su popularidad hasta convertirse en la aplicación no relacionada con los juegos más descargada para todos los smartphones en enero.

Publicidad:

🔎 | Facebook | 2 | MSN

Trikooba se sustenta únicamente gracias a sus lectores. Recuerda que siempre puedes apoyarnos de una manera totalmente gratuita, o realizando una mínima aportación económica. SI quieres saber cómo, haz clic aquí: Apoya el Blog

Deja un comentario