TikTok multata dall'Antitrust per come modera e seleziona i contenuti destinati ai minori

Negli stessi giorni in cui la camera bassa votava una norma che mette l’app di ByteDance potenzialmente al bando negli Stati Uniti, in Italia l’Autorità Garante della Concorrenza e del Mercato comminava a TikTok una maxi multa da 10milioni di euro per non aver opportunamente vigilato sui contenuti che circolano sulla piattaforma raggiungendo spesso un pubblico di giovanissimi.

Perché l’AGCM ha indirizzato a TikTok una maxi multa da 10 milioni di euro

La piattaforma è stata accusata più nello specifico di effettuare controlli «inadeguati»¹, così si legge nella nota dell’AGCM, sui «contenuti suscettibili di minacciare la sicurezza psico-fisica degli utenti» e in particolare di «soggetti minori e vulnerabili». L’authority cita nel provvedimento un caso specifico: quello della challenge della cicatrice francese.

Il “caso” della challenge della cicatrice francese

La challenge della cicatrice francese è l’ultima arrivata tra le sfide social che, negli anni, hanno acquistato rapidamente popolarità tra gli adolescenti e creato allarmismo tra genitori, insegnanti, istituzioni.

Ai partecipanti è chiesto di procurarsi, tramite pizzicotti sulle guance o colpendo ripetutamente o stringendo con forza tra le dita la pelle, dei segni sul viso che diano l’impressione di aver partecipato a una rissa e, quindi, di essere un duro. Al 22 marzo 2024, cercando su TikTok parole chiave come “cicatrice francese”, “french scar” o “cicatrice française” si trovano² solo poche decine di post .

Nei mesi scorsi, prima che la piattaforma ne rimuovesse il grosso, secondo delle stime i contenuti relativi alla challenge avevano quasi raggiunto i 60milioni³ di visualizzazioni. Tra questi c’erano persino sorte di tutorial che spiegavano agli utenti come potersi procurare facilmente segni e cicatrici sulla faccia. A febbraio la Polizia Postale era intervenuta pubblicando sul proprio sito informazioni utili sulla challenge⁴ e su come intervenire nel caso in cui ci si accorgesse che qualcuno di vicino stesse partecipando. Poco tempo dopo l’Antitrust ha aperto l’istruttoria che è costata ora a TikTok la maxi multa da 10milioni di euro.

Stando alla ricostruzione dell’ AGCM i contenuti inerenti alla challenge della cicatrice francese avrebbero passato senza difficoltà il vaglio da parte dei sistemi automatici di TikTok, da qui l’accusa rivolta alla piattaforma di effettuare controlli inadeguati, e solo in un secondo momento, dopo l’attenzione mediatica ricevuta dalla vicenda, sarebbero stati sottoposti a moderazione umana.

Dal canto proprio la piattaforma di casa ByteDance continua a sostenere che, prima dell’intervento allarmistico dei media e prima che l’autorithy avviasse l’istruttoria, almeno in Italia il volume di ricerche correlate alla challenge era piuttosto ridotto. Da tempo, del resto, come ha aggiunto la piattaforma richiamando le policy con cui prova a mantenere sempre «positive e ispirate» le community di tiktoker, i contenuti inerenti alle challenge non vengono proposti ai minori di 18 anni, né consigliati nella sezione Per Te.

I dubbi su come TikTok seleziona i contenuti da raccomandare agli utenti

Proprio i sistemi di raccomandazione della piattaforma sono l’altro punto che sembra aver convinto l’autorità antitrust italiana a indirizzare a TikTok una maxi multa. I contenuti raccomandati agli iscritti – tutti, non solo quelli più giovani – sulla base delle preferenze espresse e delle attività svolte in precedenza sembrano essere scelti al solo scopo di «aumentare le interazioni tra utenti e il tempo speso sulla piattaforma così da accrescere la redditività degli introiti pubblicitari», si legge ancora nella nota dell’AGCM, anche quando questo rischia di mettere in pericolo la sicurezza e la privacy delle persone.

Non è la prima volta che la piattaforma deve difendersi da accuse di questo tipo: già qualche tempo fa il Garante Privacy italiano aveva imposto un blocco temporaneo a TikTok proprio per la mancanza di garanzie sull’utilizzo dei dati personali, dei minori soprattutto, e sul rispetto delle normative del settore. Più di recente, proprio per conformarsi alle regole europee sulla privacy e al nuovo Digital Services Act, TikTok ha reso opzionale la personalizzazione di risultati e suggerimenti.

In Europa TikTok potrebbe non mostrare più contenuti personalizzati nella sezione "Per te"

Farlo richiede di raccogliere una quantità di dati non conforme alle previsioni delle norme europee sulla privacy e i servizi digitali: per questo TikTok ha fatto sapere che la personalizzazione diventerà solo un’opzione.

Leggi