Il 6 novembre la Commissione europea ha messo sotto accusa TikTok per un aspetto del suo funzionamento che tocca il cuore stesso dell'esperienza online: il modo in cui gli algoritmi scelgono cosa mostrarci e, col tempo, cosa ci trattiene. Non si tratta ancora di una sentenza, ma di conclusioni preliminari che segnano un precedente, perché è la prima volta che Bruxelles contesta a un social network il funzionamento dei propri sistemi di raccomandazione. È una domanda antica, quella su quanto una macchina possa modellare i nostri desideri, che ora trova una risposta giuridica in costruzione.
Bruxelles contesta a TikTok l'algoritmo delle «rabbit hole»: primo caso DSA sui sistemi di raccomandazione
Per la prima volta Bruxelles contesta a un social network l'algoritmo stesso
Mark
Perché questo caso è diverso dagli altri aperti con il Dsa?
Mimi
Perché per la prima volta Bruxelles non contesta un singolo contenuto o una procedura, ma il modo in cui l'algoritmo seleziona e propone i video.
Mark
Cosa sono esattamente le «rabbit hole»?
Mimi
Percorsi in cui, più guardi un certo tipo di contenuto, più te ne viene proposto di simile. Secondo la Commissione, così si resta più a lungo e si incontrano più spesso contenuti potenzialmente dannosi.
Luke
Attenzione, però: sono conclusioni preliminari. È l'accusa della Commissione, non un accertamento definitivo.
Mark
E le prove?
Mimi
L'indagine si è concentrata sulla salute mentale, dove un funzionario europeo ha detto che le prove erano più solide.
Luke
Ma è una valutazione di un funzionario, riportata senza i dati. Non sappiamo da quali evidenze concrete derivi.
Mark
Il dato dello 0,2% cosa racconta?
Mimi
Che il feed non personalizzato esiste, ma quasi nessuno lo usa.
Luke
Il dato dice quanto è usato, non perché. Non spiega se manchi la conoscenza della funzione o la volontà di usarla.
Mark
E TikTok?
Mimi
Respinge tutto: parla di dichiarazioni «fondamentalmente inesatte» e difende le proprie tutele.
Il Polso
- Bruxelles accusa TikTok di aver violato il Digital Services Act con algoritmi che trascinano gli utenti in spirali di contenuti potenzialmente dannosi.
- Per la prima volta il regolamento europeo mette sotto esame il funzionamento stesso dei sistemi di raccomandazione di un social network.
- Il timore è che la personalizzazione inneschi un circolo sempre più stretto, con effetti particolarmente gravi sulla salute mentale.
- Solo lo 0,2% degli utenti sceglie il feed non personalizzato, mentre TikTok respinge le accuse e parla di contestazioni fondamentalmente inesatte.
- Con sanzioni fino al 6% del fatturato globale annuo in gioco, l'esito potrebbe ridisegnare il modo in cui le piattaforme costruiscono i loro algoritmi.
Il 6 novembre la Commissione europea ha messo sotto accusa TikTok per un aspetto del suo funzionamento che tocca il cuore stesso dell'esperienza online: il modo in cui gli algoritmi scelgono cosa mostrarci e, col tempo, cosa ci trattiene. Non si tratta ancora di una sentenza, ma di conclusioni preliminari che segnano un precedente, perché è la prima volta che Bruxelles contesta a un social network il funzionamento dei propri sistemi di raccomandazione. È una domanda antica, quella su quanto una macchina possa modellare i nostri desideri, che ora trova una risposta giuridica in costruzione.
Venerdì 6 novembre la Commissione europea ha reso note le sue conclusioni preliminari su TikTok, formulando un'accusa precisa: la piattaforma avrebbe progettato algoritmi capaci di spingere gli utenti in quelle che vengono chiamate «rabbit hole», tane del coniglio, percorsi di contenuti sempre più mirati e potenzialmente dannosi da cui è difficile uscire.
Il meccanismo, secondo Bruxelles, nasce dalle nostre stesse abitudini. Ogni video guardato, apprezzato o commentato insegna al sistema cosa proporci dopo, e la personalizzazione rischia di trasformarsi in una spirale che porta a restare più a lungo e a esporsi ripetutamente a ciò che può far stare male. L'indagine ha privilegiato la salute mentale, l'ambito in cui le prove appaiono più solide, e la Commissione ritiene insufficienti le misure finora adottate. Chiede ora che TikTok dia maggior peso al pulsante «non mi interessa» rispetto ai segnali ricavati dalle abitudini di visione.
Il Digital Services Act prevede già un feed non personalizzato, ma quasi nessuno lo usa: appena lo 0,2% degli utenti. L'azienda respinge le contestazioni e difende il proprio impegno sulla sicurezza. Si tratta di un passaggio ancora provvisorio, e molto dipenderà dalla risposta formale di TikTok e dall'eventuale sanzione. Ma il risultato potrebbe influenzare il modo in cui, in Europa, le piattaforme scelgono di progettare i propri algoritmi.
Venerdì 6 novembre la Commissione europea ha diffuso le sue conclusioni preliminari su TikTok e ha formulato un'accusa precisa: la piattaforma avrebbe violato le norme europee sulle piattaforme online progettando algoritmi che spingono gli utenti dentro le cosiddette «rabbit hole», le «tane del coniglio». Sono percorsi di contenuti sempre più mirati e potenzialmente dannosi, da cui è difficile uscire.
Il passaggio è inedito. Per la prima volta, nell'applicazione del Digital Services Act (Dsa), Bruxelles contesta a un social network il funzionamento stesso dei sistemi di raccomandazione. Il regolamento prevede sanzioni fino al 6% del fatturato globale annuo per le società che ne violano le disposizioni.
Il meccanismo descritto dalla Commissione parte dalle interazioni degli utenti. Più una persona guarda, apprezza o commenta un certo tipo di video, più l'algoritmo tende a proporle contenuti dello stesso genere. Il rischio, secondo Bruxelles, è che questa personalizzazione alimenti una spirale progressiva: gli utenti passano sempre più tempo sulla piattaforma e si espongono ripetutamente anche a contenuti che possono farli stare male.
L'indagine si è concentrata soprattutto sugli effetti sulla salute mentale. È l'ambito in cui, ha spiegato un funzionario europeo, «le prove erano più solide». La Commissione giudica inoltre insufficienti le misure finora adottate da TikTok per contenere il fenomeno.
A TikTok Bruxelles chiede ora di dare maggior peso alle indicazioni esplicite degli utenti, come il pulsante «non mi interessa», rispetto ai segnali indiretti ricavati dalle loro abitudini di visione.
Il Dsa prevede già la possibilità di scegliere un feed non personalizzato. Ma la funzione è usata soltanto dallo 0,2% degli utenti di TikTok, un dato che mostra quanto poco, nella pratica, questo strumento incida sull'esperienza della maggior parte delle persone.
La società ha respinto le contestazioni e ha difeso il proprio sistema di protezione degli utenti. Un portavoce ha definito «fondamentalmente inesatte» le dichiarazioni della Commissione, accusandola di distorcere il funzionamento della piattaforma e l'impegno dell'azienda sul fronte della sicurezza.
Si tratta di conclusioni preliminari, non di una decisione definitiva. Resta da vedere come TikTok risponderà formalmente e se il caso arriverà a una sanzione: l'esito potrebbe influenzare il modo in cui le piattaforme progettano i propri algoritmi in Europa.
Citazioni salienti
Sulla salute mentale le prove erano più solide.— Funzionario europeo
Le dichiarazioni della Commissione sono fondamentalmente inesatte.— Portavoce di TikTok
Vuoi la storia completa?
Leggi l'originale su Milano Finanza ↗
Technology