Cuando un usuario marca en Facebook un contenido como sospechoso, por el motivo que sea, se desencadena un proceso de moderación. Dicha publicación es moderada automáticamente, cuando el sistema detecta una clara violación, o se acumulan en una cola de contenidos a ser moderados por humanos.
Un proceso, este último, que va a cambiar con el último movimiento de Facebook en su apuesta por la automatización: el aprendizaje automático se encargará de priorizar esa cola y colocar en los primeros puestos aquellos más importante.
Una publicación denunciada por spam, por ejemplo, será de las menos prioritarias. El uso de la inteligencia artificial irá más allá de priorizar los más importante, sin especificar exactamente qué lo es, ponderando viralidad, severidad y probabilidad de violación de reglas
La inteligencia artificial como complemento a la moderación humana
Lo avanza The Verge, explicando que en el futuro el uso de la inteligencia artificial irá más allá de priorizar los más importante. Un conjunto de algoritmos se encargarán de la priorización en base a la viralidad, la severidad y la probabilidad de violación de reglas de los contenidos que hayan sido reportados.
La idea es que los 15.000 moderadores humanos de Facebook se encarguen primeramente de los contenidos que requieren una atención más rápida por distintos motivos, pudiendo resultar potencialmente más dañinos, al tiempo que se deja para más tarde aquellas publicaciones que por sus características puedan esperar.
El contenido que tenga un impacto en el mundo real, por ejemplo, como aquellos relacionados con terrorismo, se priorizará. «Todas las violaciones de contenido seguirán recibiendo una revisión humana sustancial, pero usaremos este sistema para priorizar mejor»
