Perché TikTok non riesce a rimuovere quell'inquietante video di suicidio?

Principale Scienza E Tecnologia

TikTok sta lottando per rimuovere un video inquietante del suicidio di un uomo, tre giorni dopo che è stato caricato sull'app.





Secondo quanto riferito, la clip mostra il veterano dell'esercito di 33 anni Ronnie McNutt, che, secondo Il New York Post , si è sparato alla testa in un live streaming di Facebook il 31 agosto. È stato riferito che McNutt, con sede nel Mississippi, aveva recentemente perso il lavoro in uno stabilimento Toyota a Blue Springs e aveva rotto con la sua ragazza. Da allora il video è diventato virale su più piattaforme di social media, incluso TikTok.

'For You' di TikTok è un flusso infinito di video alimentato da algoritmi che cura clip di persone che gli utenti non seguono necessariamente. Molti hanno riferito di essersi imbattuti nella clip a caso e hanno espresso quanto sia stato traumatizzante essere confrontati con il filmato. Dato il giovane pubblico di TikTok - 69 per cento hanno un'età compresa tra i 13 ei 24 anni - questo ha causato ancora più preoccupazione per il benessere mentale.



Domenica notte, le clip di un suicidio che erano state originariamente trasmesse in live streaming su Facebook sono circolate su altre piattaforme, tra cui TikTok, ha detto a Dazed un portavoce di TikTok. I nostri sistemi, insieme ai nostri team di moderazione, hanno rilevato e bloccato queste clip per aver violato le nostre norme contro i contenuti che mostrano, elogiano, glorificano o promuovono il suicidio.



@alluringskull

## schermo verde



♬ suono originale - alluringskull

Stiamo vietando gli account che tentano ripetutamente di caricare clip e apprezziamo i membri della nostra community che hanno segnalato contenuti e messo in guardia gli altri contro la visione, il coinvolgimento o la condivisione di tali video su qualsiasi piattaforma per rispetto della persona e della sua famiglia.

Nonostante questa promessa di azione, il video rimane sull'app. Diversi utenti hanno pubblicato il coinvolgimento che hanno avuto con i moderatori di TikTok, che avrebbero riferito loro il video non viola le nostre Norme della community . Dazed ha chiesto a TikTok ulteriori chiarimenti sul motivo per cui questo sta accadendo.



Ora, gli utenti dell'app hanno iniziato a prendere in mano la situazione, condividendo video che avvertono gli altri della presenza della clip suicida su TikTok. Per favore, prova a non andare su TikTok oggi o domani, un video disse . C'è un video di suicidio molto grafico e cruento (sic) in giro proprio ora!

Un altro utente ha pubblicato una clip , che ha affrontato le voci secondo cui il filmato è falso. In realtà, non è falso, ha detto @alluringskull. L'utente mostra quindi un'immagine dal video, che vede McNutt seduto a una scrivania con un telefono all'orecchio. Se vedi questo, metti in pausa il video, scorri via, @alluringskull ha aggiunto. Per favore smettila di trattarlo come un meme, per favore smettila di trattarlo come uno scherzo, questa è una persona reale che è morta e la sua famiglia è in lutto.

Onestamente ho pensato che fosse falso finché non l'ho esaminato. Mi ha inorridito vedere che TikTok ha permesso a queste cose di rimanere sulla loro app per così tanto tempo - James, utente di TikTok

Un utente di nome James ha ricevuto il video dal suo amico e lo ha aperto senza sapere cosa fosse. Onestamente ho pensato che fosse falso finché non l'ho esaminato, dice a Dazed in un messaggio diretto. Mi ha inorridito vedere che TikTok ha permesso a queste cose di rimanere sulla loro app per così tanto tempo.

Questa non è la prima volta che TikTok è stato criticato per i suoi scarsi sforzi di moderazione. A febbraio, la piattaforma di condivisione video ci sono volute tre ore per informare la polizia di un suicidio trasmesso in live streaming sull'app. Il video del corpo della vittima è rimasto in diretta per oltre un'ora e mezza prima di essere rimosso. Secondo quanto riferito, TikTok ha adottato misure per impedire che il post diventasse virale prima di avvisare le autorità.

A luglio, le linee guida sulla moderazione dell'app sono state nuovamente messe in discussione, dopo il suo algoritmo ha promosso una raccolta di meme antisemiti , con la colonna sonora dei testi, Stiamo andando in gita in un posto chiamato Auschwitz, è l'ora della doccia . Quasi 100 utenti hanno presentato la canzone nei loro video, che sono rimasti sull'app per tre giorni (otto ore dopo che la piattaforma è stata avvisata della loro presenza dal BBC ).

Le ultime novità di TikTok Rapporto sulla trasparenza - pubblicato a luglio - afferma che l'app ha rimosso oltre 49 milioni di video a livello globale nella seconda metà dello scorso anno, con il 98,2% di quelli rimossi prima di essere segnalati. L'89,4 per cento di questi è stato rimosso prima di ricevere le visualizzazioni. Tuttavia, TikTok è noto per censurare utenti e contenuti che non violano alcuna linea guida, tra cui un adolescente che ha criticato la Cina (dove ha sede l'azienda), quelli ritenuti brutti, poveri o disabili e creatori neri.

L'app ammette che non coglierà ogni istanza di contenuto inappropriato e afferma che continuerà a investire in tecnologia ed esperti per rendere TikTok il più sicuro possibile. Ieri (8 settembre) l'app Iscritto il codice di condotta dell'Unione europea per contrastare l'incitamento all'odio illegale, che si impegna a reprimere i contenuti odiosi e illegali.

jeff bridges nastri per dormire in vinile

Il nostro obiettivo finale è eliminare l'odio su TikTok, ha detto un portavoce in una dichiarazione. Riconosciamo che questa può sembrare una sfida insormontabile poiché il mondo è sempre più polarizzato, ma crediamo che questo non dovrebbe impedirci di provarci.

Aggiornamento (24 settembre): TikTok ha detto che il video del suicidio è stato caricato sull'app come parte di uno sforzo coordinato di cattivi attori. In una dichiarazione, la piattaforma di condivisione video ha dichiarato: Attraverso le nostre indagini, abbiamo appreso che i gruppi che operano sul dark web hanno pianificato di fare irruzione sulle piattaforme di social media tra cui TikTok, al fine di diffondere il video su Internet. Quello che abbiamo visto è stato un gruppo di utenti che hanno tentato ripetutamente di caricare il video sulla nostra piattaforma.

TikTok ha anche inviato una lettera ad altre piattaforme di social media, tra cui Facebook, YouTube e Twitter, proponendo di notificarsi a vicenda quando sui loro siti circolano contenuti violenti e grafici.

Se stai lottando con problemi di salute mentale, puoi contattare gli specialisti della prevenzione del suicidio Samaritans nel Regno Unito Qui e il National Suicide Prevention Lifeline negli Stati Uniti Qui .