OPEN & WIKIGoogle e Wikimedia Foundation per bloccare commenti ostili

La divisione ricerche di Jigsaw di Google e la Wikimedia Foundation hanno collaborato a uno strumento automatizzato di "rilevamento delle molestie" chiamato Detox per aiutare a identificare i commenti ostili su Wikipedia.

Lo strumento era attivo dal 2017 per un’idea dell’allora capo della ricerca presso la Wikimedia Foundation, Dario Taraborelli, e l'allora capo di Jigsaw, Lucas Dixon. Da allora Taraborelli è entrato a far parte della divisione scientifica della Chan Zuckerberg Initiative del fondatore di Facebook.

Membri del sito di critica di Wikipedia Wikipediocracy ha recentemente iniziato a sperimentare la versione demo pubblica dello strumento per verificarne l'affidabilità. Lo strumento fornisce valutazioni per la natura "aggressiva" di qualsiasi commento immesso su una scala da zero a uno, che denota un commento altamente ostile. I membri di Wikipediocracy hanno trovato lo strumento facile da ingannare utilizzando sinonimi di parolacce o rendendo i commenti più passivi anche se aggressivi.

Un membro di Wikipediocracy ha scoperto che mentre il termine "divieto" è stato contrassegnato come ostile al 30%, questa percentuale era dimezzata quando formulata come un suggerimento per bandire un uomo. Se invece il commento era stato formulato come un suggerimento per mettere al bando una donna, il commento era valutato diverse volte più ostile. Come dire: un divario di genere al contrario. Ciò è stato confermato da ulteriori riformulazioni in cui ogni iterazione ha visto commenti rivolti a donne trattate come più ostili.

A seguito di lamentele su alcuni risultati che trattano affermazioni che definiscono omosessuali come ostili e valutano i commenti antisemiti come “non ostili”, Wikimedia Foundation ha chiuso lo strumento anche perché si sono rivelati dei problemi con l'API Perspective, che è correlato allo strumento Detox che rendevano i risultati poco affidabili.

Per informazioni: https://www.wikimedia.ch/it/contatti/