FOX

Facebook sta sviluppando una nuova IA contro i meme offensivi

di -

Una nuova IA sviluppata da Facebook aiuterà i moderatori a scovare i meme che incitano all'odio o alla violenza!

Un diagramma esplicativo del funzionamento dell'IA Facebook

29 condivisioni 0 commenti

Condividi

I moderatori di Facebook non possono guardare ogni singola immagine che viene pubblicata sulla piattaforma, quindi la stessa società sta creando una IA per aiutarli.

In un post pubblicato oggi, Facebook descrive un software in via di sviluppo - chiamato Rosetta - che utilizza l'apprendimento automatico per identificare il testo in immagini e video e trascriverlo in qualcosa che sia leggibile dalla macchina. In particolare, Facebook vuole utilizzare questo strumento per scovare e contrastare i meme più offensivi.

Gli strumenti di trascrizione del testo non sono di certo una novità, ma per Facebook è una sfida di dimensioni bibliche, a causa delle dimensioni della sua piattaforma e della varietà delle immagini che ogni giorno vengono pubblicate. Secondo quanto riportato dal blog ufficiale del social network, Rosetta sta estrapolando testi da un miliardo di immagini e screenshot, sia su Facebook che su Instagram.

Al momento non è chiaro cosa se ne stia facendo di tutti questi dati. Sembra anche che Facebook stia iniziando a puntare a obiettivi molto più ambiziosi, come capire che cosa sarebbe interessante inserire nella tua bacheca notizie e, soprattutto e capire quali sono i meme che incitano all'odio o a commenti offensivi.

Facebook afferma che l'estrazione del testo e l'apprendimento automatico vengono utilizzati per 'identificare automaticamente i contenuti che violano la nostra politica di incitamento all'odio'. Dati i noti problemi di moderazione della piattaforma, un sistema ben funzionante in grado di segnalare automaticamente le immagini potenzialmente problematiche potrebbe essere di grande aiuto.

Via The Verge

Condividi

Commenta

Ti potrebbe interessare anche:

Questo sito internet utilizza cookie tecnici e di profilazione, anche di terze parti, per migliorare la tua esperienza di navigazione, analizzare l’utilizzo del sito e per proporti pubblicità in linea con le tue preferenze. Puoi saperne di più o per negare il consenso ad alcuni a tutti i cookie clicca qui Informativa sui Cookies. Chiudendo questo banner, cliccando in seguito o continuando a utilizzare il sito, acconsenti all’utilizzo dei predetti cookie.