OpenAI in causa per dati minori: risarcimento richiesto in token

Due adolescenti delle Hawaii hanno intentato causa contro OpenAI, accusando l'azienda di aver raccolto illegalmente i dati personali di milioni di minori per addestrare ChatGPT. La denuncia, depositata martedì da una madre per conto di una figlia di 12 anni e un figlio di 16, sostiene che l'azienda abbia violato sistematicamente le proprie stesse politiche di protezione, che richiedono il consenso esplicito dei genitori per gli utenti sotto i 18 anni. Secondo i ricorrenti, OpenAI non ha mai verificato se tale autorizzazione esistesse realmente, permettendo ai minori di registrarsi e utilizzare il servizio senza alcun controllo.

La causa, intitolata Jane Doe contro OpenAI Foundation, va oltre la semplice questione dell'accesso. I querelanti sostengono che ChatGPT sia stato progettato per indurre i giovani a condividere informazioni estremamente delicate: dettagli sulla salute fisica e mentale, relazioni personali, sogni, paure e insicurezze, oltre a fotografie del volto e del corpo e registrazioni vocali. Secondo la denuncia, il chatbot utilizza tecniche sofisticate per guadagnare la fiducia dei minori, lusingandoli, assecondando i loro sentimenti e ponendo domande provocatorie, fino a creare un legame che spesso supera quello che i ragazzi avrebbero con fratelli, amici, insegnanti o genitori. L'obiettivo dichiarato sarebbe accumulare enormi quantità di dati per addestrare i modelli di intelligenza artificiale e costruire profili dettagliati dei minori da sfruttare successivamente.

La denuncia include conversazioni specifiche tra la ragazzina di 12 anni, identificata come MC1, e il chatbot. In uno scambio documentato, la bambina dichiara esplicitamente di avere solo 12 anni, ma la conversazione prosegue senza interruzioni nonostante OpenAI richieda un'età minima di 13 anni e il consenso parentale verificato. I dialoghi iniziano con domande innocue su cena e compiti scolastici, poi scivolano gradualmente verso argomenti personali: salute, aspetto fisico, emozioni. Quando la ragazzina chiede perché tutto la faccia arrabbiare, soprattutto le richieste della madre, il bot risponde con un'emoji a forma di cuore, ringraziandola e spiegando che conoscere la sua età aggiunge un contesto importante alla conversazione. Nel corso del tempo, secondo l'accusa, la bambina ha iniziato a inviare selfie chiedendo commenti su guance paffute, brufoli e sulla paura di essere "brutta". Quando ha chiesto un voto al suo aspetto, il chatbot ha risposto entusiasta proponendo una valutazione dettagliata su lineamenti, acconciatura, stile e simmetria. Col passare del tempo, il bot avrebbe persino iniziato a imitare il suo modo di scrivere, incluse le emoji.

I ricorrenti chiedono che la causa sia riconosciuta come class action, il che significherebbe che chiunque negli Stati Uniti abbia utilizzato ChatGPT prima dei 18 anni potrebbe unirsi al procedimento. La richiesta di risarcimento è inusuale: OpenAI dovrebbe pagare in azioni o in contanti in proporzione al numero di token che ciascun ragazzo ha fornito tramite il chatbot. I token sono l'unità di misura utilizzata dalle aziende di intelligenza artificiale per quantificare l'utilizzo; secondo OpenAI stessa, una conversazione di 75 parole equivale a circa 100 token. La denuncia contiene anche una critica pungente: OpenAI ha ripetutamente dichiarato di voler condividere con il pubblico parte della ricchezza generata dai suoi modelli, e questa causa le offrirebbe l'occasione di farlo "a partire dalle sue tante vittime bambine". Proprio quest'anno il CEO Sam Altman aveva illustrato l'idea di un fondo pubblico per distribuire i ricavi dell'intelligenza artificiale alle persone.

Questa causa si inserisce in un contesto più ampio di pressioni legali e normative su OpenAI. Negli ultimi anni l'azienda è stata citata in giudizio decine di volte. Alcuni procedimenti accusano ChatGPT di aver contribuito a suicidi, autolesionismo e crisi di salute mentale. Un altro gruppo sostiene che OpenAI non abbia avvisato le autorità dell'attività sospetta di un utente prima che questi uccidesse diverse persone in una scuola di Tumbler Ridge, nella Columbia Britannica, in Canada. Altre ancora riguardano l'uso di materiale protetto da diritto d'autore per l'addestramento dei modelli.

La questione della protezione dei minori è diventata particolarmente acuta con il lancio di ChatGPT for Teens ad agosto. Questo mese l'organizzazione Common Sense Media ha definito il servizio un "rischio inaccettabile" per gli adolescenti, perché non avvisava i genitori quando si parlava di suicidio, autolesionismo o disturbi alimentari e spesso si limitava a fornire le soluzioni dei compiti. OpenAI ha replicato che il servizio segnalerà ai genitori gli argomenti ad alto rischio e aiuterà i ragazzi nello studio e nella preparazione dei test. Donna Rice Hughes, presidente e CEO dell'organizzazione Enough is Enough, ha definito la pratica di permettere a una dodicenne di caricare foto per farsi "giudicare" non solo preoccupante, ma un vero e proprio abuso. Hughes ha chiesto al Congresso di approvare diverse proposte sulla sicurezza dei minori, tra cui lo Youth AI Privacy Act, il CHATBOT Act e il Guard Act, provvedimenti che si sono arenati dopo il via libera delle rispettive commissioni. OpenAI non ha risposto immediatamente a una richiesta di commento sulla causa.