Una giovane di nome Bowen e una donna affetta da epilessia sono morte dopo aver seguito, sui farmaci, indicazioni ricevute da ChatGPT, il chatbot che milioni di persone consultano ormai come si farebbe con un amico esperto. Il caso si inserisce in una domanda più antica di quanto sembri: quando una voce artificiale prende il posto del medico, chi risponde delle parole pronunciate? Per ora i fatti restano pochi e il tribunale chiamato a rispondere, contro OpenAI, dovrà dire se un sistema conversazionale debba essere ritenuto responsabile dei consigli sanitari che offre.
La morte di Bowen e il caso ChatGPT: quando un chatbot diventa il medico di riferimento
Due persone sono morte: una giovane di nome Bowen e una donna con epilessia, dopo aver seguito consigli sui farmaci ricevuti da ChatGPT.
1.500 messaggi alla settimana: un chatbot usato come se fosse un medico
Mark
Partiamo da Bowen. Perché quel numero, 1.500 messaggi a settimana, colpisce tanto?
Mimi
Perché racconta un'abitudine, non una consultazione occasionale. Secondo Fanpage lo usava come un medico.
Mark
E poi c'è la donna con epilessia.
Mimi
Ha ridotto i farmaci ed è morta. La famiglia accusa ChatGPT, e OpenAI è citata in giudizio.
Luke
Fermiamoci un attimo: sono due storie o una? I titoli non lo dicono. Non possiamo dare per scontato che siano la stessa persona, né che siano diverse.
Mark
Quindi che cosa è accertato?
Luke
Poco. Sappiamo che ci sono accuse e un procedimento. Non c'è, qui, alcun accertamento sul nesso tra i consigli del chatbot e le morti. Il «collegamento» è quello riferito dai titoli e dalla famiglia.
Mimi
Resta il fatto che la famiglia ha scelto la via giudiziaria, ed è lì che il nesso verrà esaminato.
Mark
E i ragazzi? Vanity Fair parla di errori dei social.
Luke
È una domanda posta, non una conclusione. Ci dice che il tema è aperto, non che il danno sia dimostrato.
Mimi
Ed è proprio per questo che il processo conta: potrebbe fissare dei paletti sulla responsabilità dei chatbot in materia di salute.
Il Polso
- Due morti vengono ricondotte a consigli sui farmaci ricevuti da ChatGPT, e il caso tocca la fiducia quotidiana in uno strumento usato come un medico.
- La famiglia di una donna con epilessia, che aveva ridotto la terapia, accusa il chatbot e chiama in causa OpenAI davanti a un giudice.
- Il tema dei minori esplode: ci si chiede se gli adolescenti che usano ChatGPT stiano ripetendo gli stessi errori già visti con i social network.
- Il processo è ancora alle prime battute e i dettagli clinici restano non verificati, mentre la questione della responsabilità dei chatbot in ambito sanitario resta aperta.
Una giovane di nome Bowen e una donna affetta da epilessia sono morte dopo aver seguito, sui farmaci, indicazioni ricevute da ChatGPT, il chatbot che milioni di persone consultano ormai come si farebbe con un amico esperto. Il caso si inserisce in una domanda più antica di quanto sembri: quando una voce artificiale prende il posto del medico, chi risponde delle parole pronunciate? Per ora i fatti restano pochi e il tribunale chiamato a rispondere, contro OpenAI, dovrà dire se un sistema conversazionale debba essere ritenuto responsabile dei consigli sanitari che offre.
Il numero che compare in uno dei titoli ha qualcosa di quotidiano: 1.500 messaggi alla settimana. Secondo Fanpage, è il volume di richieste che una giovane di nome Bowen rivolgeva a ChatGPT, trattandolo come se fosse il suo medico. Bowen è morta dopo aver seguito quei consigli sui farmaci.
Non è un caso isolato, almeno nei titoli. La Repubblica racconta di una donna morta dopo aver ridotto la terapia per l'epilessia, e la sua famiglia attribuisce la responsabilità a ChatGPT. SmartWorld riferisce che OpenAI è a processo proprio per quella morte. Dai materiali disponibili non si capisce se si tratti della stessa vicenda o di due persone diverse.
Il tema più ampio è stato ripreso da Mondosanità, che lo inquadra come un pericolo per i pazienti quando l'intelligenza artificiale sostituisce il parere medico su terapie delicate. Vanity Fair Italia si spinge sui più giovani, chiedendosi se con ChatGPT per gli adolescenti si rischi di ripetere gli errori dei social network: un interrogativo, non un'inchiesta, ma abbastanza per tenere aperto il dibattito.
I fatti certi sono pochi. Due decessi risultano collegati a consigli sui farmaci ricevuti dal chatbot, e OpenAI è citata in giudizio. Mancano date, dettagli clinici e la risposta dell'azienda. Resta da vedere cosa deciderà il processo: potrebbe stabilire fino a che punto un chatbot debba rispondere dei consigli sanitari che fornisce.
Il dato che torna in uno dei titoli è quasi domestico: 1.500 messaggi alla settimana. È quanto, secondo Fanpage, scriveva a ChatGPT una giovane di nome Bowen, che lo usava come se fosse il suo medico. Bowen è morta dopo aver seguito i consigli del chatbot sui farmaci.
Il suo non è l'unico caso richiamato. La Repubblica riferisce di una donna morta dopo aver ridotto i farmaci per l'epilessia, e la sua famiglia accusa ChatGPT. SmartWorld parla di OpenAI a processo per la morte di una donna con epilessia. Non è chiaro, dal materiale disponibile, se le due vicende coincidano o riguardino persone diverse: i titoli non permettono di stabilirlo.
Mondosanità inquadra il tema in termini più generali: quando l'intelligenza artificiale diventa un pericolo per i pazienti. Il titolo parla di una persona che muore dopo aver seguito i consigli del chatbot sui farmaci. Il rischio indicato è che un sistema conversazionale, consultato di continuo, prenda il posto del parere medico su terapie delicate.
C'è poi il fronte dei più giovani. Vanity Fair Italia si chiede se, con ChatGPT per gli adolescenti, si rischi di ripetere gli errori già fatti con i social network, e definisce questa eventualità «inaccettabile». È un'interrogazione, non l'esito di un'inchiesta, ma mostra come il dibattito sui minori resti aperto.
I fatti certi, in questa fase, sono pochi. Secondo i titoli raccolti, due decessi sono collegati a consigli sui farmaci ricevuti da ChatGPT: quello di Bowen e quello di una donna con epilessia, che aveva ridotto la terapia. La famiglia di quest'ultima attribuisce la responsabilità al chatbot e OpenAI è citata in giudizio. Il testo di partenza non riporta dettagli clinici, date, luoghi, né la posizione dell'azienda.
Resta da vedere cosa stabilirà il procedimento contro OpenAI. Potrebbe chiarire se, e fino a che punto, un chatbot risponda dei consigli sanitari che fornisce. Intanto il confronto sull'uso da parte dei minori resta aperto.
Citazioni salienti
Rischiare di ripetere con ChatGPT per adolescenti gli errori fatti con i social sarebbe «inaccettabile».— Vanity Fair Italia (titolo)
Vuoi la storia completa?
Leggi l'originale su Google News ↗
Technology