Tecnologia

Femministe in rivolta: se l’algoritmo non vede l’odio, chi decide davvero?

Quando la moderazione automatica diventa un muro di gomma: segnalazioni ignorate, odio normalizzato, responsabilità non pervenuta

Su Facebook è comparsa una pagina intitolata “Meglio una di meno che una femminista di troppo” che scimmiotta la grafica di “Non una di meno”. Non è solo una parodia: è un contenuto costruito per ferire.
Le associazioni l’hanno segnalata, i centri antiviolenza pure. La risposta di Meta è sempre la stessa, impersonale e identica: “non viola gli standard della community”. A forza di sentirla, quella frase sembra diventata un lasciapassare. Chi diffonde odio passa, chi prova a fermarlo viene ignorato.
È un paradosso curioso: la piattaforma che si presenta come paladina della sicurezza digitale finisce per non vedere proprio ciò che dovrebbe proteggere.

Gli “standard” incomprensibili

A questo punto ci si domanda che cosa siano davvero questi “standard”. Chi li ha scritti? Quali parametri li definiscono? Perché non sono trasparenti e condivisi? Visto che non sembrano capaci di distinguere tra satira e contenuti tossici.
Dietro quella risposta automatica c’è un sistema che lavora per schemi: parole chiave, percentuali di rischio, modelli predefiniti. Un algoritmo che pesa le segnalazioni, analizza le immagini, confronta i post con categorie rigide.
Tutto molto tecnico, ma molto distante dalla realtà di chi subisce l’odio.

Il giudice automatico e l’atroce dubbio

Il problema non è solo la pagina incriminata: è il meccanismo che decide se qualcosa è accettabile o no. Un sistema che pretende di giudicare la complessità sociale con strumenti pensati per riconoscere pattern, non intenzioni.
Un sistema che ignora migliaia di utenti che indicano un contenuto tossico e che invece di ascoltare, risponde con un automatismo.

Rimane solo un dubbio: ma l’algoritmo che stabilisce cosa è odio e cosa non lo è ha un sesso?

Leggi anche: Corte Ue: confermata maxi multa da 4,1 miliardi a Google per Android