Twitch bannerà gli utenti con l'aiuto del Machine Learning

Twitch ha dichiarato di voler utilizzare l’apprendimento automatico per rilevare le persone che eludono i divieti e bannarle di conseguenza. Il rilevamento di utenti sospetti sarà attivato come un’impostazione predefinita al fine di garantire un utilizzo della piattaforma piacevole per tutti.

Twitch: un nuovo modo per ridurre le molestie

L’azienda sta intensificando i suoi sforzi per ridurre le molestie con un nuovo strumento che utilizza l’apprendimento automatico per rilevare le persone che potrebbero tentare di eludere i divieti. È l’ultima feature aggiunta da parte della compagnia per combattere i raid di odio, in cui le chat degli streamer sono invase da troll che inviano messaggi cattivi e pesanti.

Il nuovo strumento, chiamato Suspicious User Detection, può identificare gli utenti come persone “probabili” o “possibili” che hanno eluso i divieti dal canale di uno streamer. Il modello di apprendimento automatico che alimenta lo strumento identifica potenziali evasori valutando fattori come il loro comportamento e le caratteristiche del loro account e confronta tali informazioni con i profili che sono stati precedentemente banditi dal canale di uno streamer.

I messaggi di “probabili” evasori non verranno inviati alla chat, ma gli streamer e i loro mod potranno dunque vederli. Questi possono scegliere di monitorare un probabile troll, aggiungendolo ad un elenco di controllo e mettendo una spunta accanto al nome di un utente che è sotto attenzione (come mostrato nella GIF sopra menzionata); oppure ancora, potranno bannarlo per sempre.

Twitch afferma che attiverà il rilevamento di utenti sospetti come impostazione predefinita, ma gli streamer potranno modificarlo o disattivarlo, se lo desiderano.  Alison Huffman, direttore del prodotto per la salute della comunità di Twitch, in una dichiarazione a The Verge:

Questo strumento è stato ispirato in gran parte dal feedback della community sulla necessità di modi migliori per frenare gli evasori del divieto. Quando stavamo parlando con i mod dei loro punti deboli, abbiamo sentito che può essere difficile distinguere se un utente che ha chattato con qualcosa che ha violato le norme del loro canale fosse un molestatore dannoso e ripetuto o solo un nuovo spettatore che non aveva imparato quel canale costumi ancora. Pertanto, abbiamo progettato questo strumento per fornire ai mod e ai creatori maggiori informazioni sui potenziali evasori del divieto in modo che possano prendere decisioni più efficienti e informate all’interno del loro canale.