Dazzle e Marissa Mayer: quanto possiamo affidare all'AI la vita familiare?

Una bambina di dieci anni compie gli anni e a scuola serve una presentazione. Per prepararla, la madre, Marissa Mayer, chiede aiuto a un software. Dazzle, l'assistente AI che lavora sulle fotografie personali, restituisce tre caratteristiche della figlia: empatia, creatività e amore per gli animali. Da questo racconto è nata una polemica.

Mayer non è un'utente qualsiasi. È stata amministratrice delegata di Yahoo e tra i primi ingegneri di Google. Dopo le critiche è intervenuta su X per chiarire che stava mettendo alla prova le capacità del prototipo. Secondo la sua ricostruzione, il sistema aveva recuperato immagini di progetti della scuola dell'infanzia ormai dimenticati, anch'essi legati agli animali. Voleva capire quali elementi il software riuscisse a ricavare dall'archivio fotografico.

Dazzle parte da lì per costruire suggerimenti personali. Nella presentazione ufficiale, pubblicata il 29 settembre, l'azienda descrive un assistente che analizza fotografie e schermate per individuare preferenze e attività da svolgere. Tra gli usi dichiarati ci sono l'aggiunta di appuntamenti al calendario, la ricerca di prodotti e le proposte di viaggio. L'idea commerciale è ridurre le informazioni che l'utente deve fornire a mano: le immagini dovrebbero dare al sistema il contesto necessario.

È una promessa di personalizzazione, e da sola non dimostra che il software comprenda le persone ritratte. Riconoscere attività ricorrenti o oggetti fotografati è un compito; interpretare il carattere di una bambina è un altro, e va giudicato con criteri diversi.

Gli esempi di Mayer comprendono incontri di gioco, attività familiari in vacanza e costumi di Halloween. La fondatrice ha anche immaginato assistenti capaci di coordinarsi tra coniugi e di alleggerire la scelta del tema di una festa. Quando le è stato chiesto delle implicazioni di un futuro organizzato dall'AI, ha ammesso di non aver approfondito quel punto.

Qui sta il nodo. Trascrivere un appuntamento elimina una procedura ripetitiva. Scegliere insieme un regalo o inventare una festa può invece far parte dell'esperienza condivisa. Non tutti danno lo stesso valore a queste attività, e un assistente dovrebbe lasciare spazio a questa differenza, invece di far prevalere il risparmio di tempo come unico criterio.

La stessa tensione attraversa il dibattito sugli interlocutori artificiali. Mark Zuckerberg ha prospettato una maggiore accettazione sociale di sistemi che rispondano a bisogni emotivi, compresi partner virtuali e interlocutori con funzioni terapeutiche. L'ipotesi riguarda la solitudine, ma pone una domanda diversa dall'organizzazione quotidiana: che ruolo dare al software nella costruzione dei legami personali?

Resta poi la questione della fiducia. Dazzle dichiara che l'utente può condividere l'intera raccolta, selezionare singole foto o negare l'accesso. Afferma inoltre di escludere le immagini potenzialmente sensibili e di non usare i dati privati per addestrare modelli pubblici. Sono impegni dichiarati dal produttore, e vanno tenuti distinti dalla capacità effettiva dell'assistente di interpretare ciò che vede. Il punto da osservare è se le promesse sulla privacy e le prestazioni reali coincideranno, e quali parti della vita familiare si sceglierà di affidare a un algoritmo.