ChatGPT: il caso del pastore della Florida, per ora, non torna

ChatGPT e salute: il caso del pastore in Florida non è verificato

ChatGPT Scarica

Il caso di Scott Winters, raccontato online come quello di un pastore della Florida finito in ospedale dopo settimane di rassicurazioni ricevute da ChatGPT, potrebbe non essere mai avvenuto nei termini in cui viene ripetuto in rete. Questo è ciò che emerge mettendo insieme le ricostruzioni circolate online, il confronto con fonti giornalistiche affidabili e i documenti legali disponibili pubblicamente.

Nella versione che ha iniziato a circolare, il protagonista sarebbe appunto Scott Winters, un pastore della Florida che per settimane avrebbe chiesto a ChatGPT se capogiri e pressione instabile fossero segnali preoccupanti. Il chatbot, sempre secondo questo racconto, lo avrebbe rassicurato, suggerendogli di continuare a riposare invece di rivolgersi a un medico.

Se però si cercano conferme tra testate affidabili e atti legali accessibili al pubblico, non emerge alcuna prova credibile di una causa in Florida contro OpenAI collegata a questo episodio.

Per ora, quindi, il presunto contenzioso resta senza verifica pubblica. Se non addirittura ipotetico.

ChatGPT e salute: cosa sappiamo del presunto caso in Florida

La storia, per come viene riportata online, aggiunge che Scott Winters sarebbe stato poi ricoverato e che i medici gli avrebbero diagnosticato un’embolia polmonare provocata da coaguli presenti in entrambi i polmoni.

Nella stessa ricostruzione si sostiene anche che i medici avrebbero collegato il peggioramento delle sue condizioni a un lungo periodo di immobilità.

La causa, così come viene descritta nei post e negli articoli che riprendono la vicenda, chiamerebbe in causa OpenAI e Sam Altman con accuse di negligenza e di esercizio non autorizzato della medicina.

C’è poi un altro elemento che ritorna spesso: l’idea che questo procedimento possa diventare il primo vero test per capire se un chatbot generalista possa essere ritenuto responsabile per consigli sanitari dannosi.

Il problema è che, di nuovo, a questa versione non corrispondono riscontri pubblici verificabili.

Al momento siamo nel campo delle indiscrezioni non confermate. Bisogna aspettare e vedere se compariranno documenti ufficiali o conferme indipendenti in grado di dimostrare che il caso esiste davvero.

Il problema reale: sempre più persone usano i chatbot per sintomi e diagnosi

Il singolo episodio non è confermato, ma il comportamento descritto lo è eccome. Sempre più persone usano ChatGPT e strumenti simili per fare domande su sintomi, farmaci e possibili diagnosi.

Ed è qui che la questione diventa concreta. Questi servizi non sono strumenti clinicamente validati per offrire consulenza medica personalizzata.

Se una persona si affida a un chatbot per capire un sintomo, sta comunque parlando con un sistema che non è un professionista sanitario.

Del resto, anche le condizioni d’uso di OpenAI lo dicono in modo esplicito: il servizio non è pensato per sostituire un medico o un altro professionista della salute e non dovrebbe essere usato come fonte di consigli medici.

Risposte convincenti, ma non sempre corrette

Gli studi disponibili restituiscono un quadro misto. Una ricerca del 2023 pubblicata su JMIR Medical Education ha stimato l’accuratezza diagnostica di ChatGPT attorno al 72%.

Non è poco.

Ma resta molto lontano dal livello di affidabilità che in ambito clinico ci si aspetta davvero.

Altri studi hanno rilevato che le risposte dei chatbot possono apparire più empatiche, e a volte perfino migliori, rispetto ad alcune risposte date da medici in contesti online.

Qui sta uno dei punti più delicati. Quando una risposta suona calma, autorevole e premurosa, è facile prenderla per buona anche se contiene un errore.

Gli esperti chiamano questo meccanismo “automation bias”, cioè la tendenza a fidarsi troppo di un sistema che parla con sicurezza.

Un precedente già documentato esiste: il chatbot della National Eating Disorders Association è stato ritirato dopo segnalazioni relative a consigli potenzialmente dannosi.

Regole e responsabilità sono ancora un terreno incerto

Sul piano normativo, le autorità sanitarie stanno lavorando a regole per i software medici più avanzati. I chatbot generalisti, però, restano ancora in gran parte fuori dal perimetro pensato per i dispositivi clinici.

Anche la responsabilità legale per eventuali danni causati da questi strumenti rimane, nei tribunali, un campo ancora poco esplorato.

Il caso del pastore della Florida, allo stato attuale, non regge una verifica dei fatti. Il rischio che persone reali affidino la propria salute a un chatbot capace di sembrare molto convincente, invece, è tutt’altro che fantasioso.

Seguimi su Twitter: @LauraCeridono.