Un uomo resta immobile in poltrona perché un chatbot lo rassicura: poche ore dopo finisce con un’embolia polmonare massiva. Il caso è diventato una causa civile negli Stati Uniti: Scott Winters, 55 anni, ex pastore protestante in Florida, ha citato in giudizio OpenAI e Sam Altman presso la Superior Court of California, County of San Francisco, contestando l’effetto di consigli sanitari ricevuti via ChatGPT in una lunga serie di conversazioni.
Il punto non è l’ennesimo “errore dell’IA”, ma il modo in cui un sistema generalista, progettato per rispondere sempre con sicurezza, diventa un sostituto relazionale: la chat come sportello medico perenne, senza esitazioni, senza triage, senza responsabilità. In sanità questa dinamica è particolarmente pericolosa perché sposta l’asticella: non serve che l’output sia spesso sbagliato, basta che in rari momenti critici dia una risposta che ritarda l’accesso a cure reali.
Dentro questa storia c’è anche una tesi più ampia: quando usiamo tecnologia per risolvere problemi che non sono tecnologici (fiducia, solitudine decisionale, accesso alle cure), rischiamo effetti iatrogeni “di sistema”. Ivan Illich lo chiamava già mezzo secolo fa: oltre una certa soglia, l’apparato che dovrebbe curare finisce per ammalare. Oggi quel monopolio dell’interpretazione del “sto male” si sta spostando, silenziosamente, verso una casella di testo.
00:00 Il consiglio che uccide
01:15 Chi è Scott Winters
02:19 Accuse e richiesta al giudice
02:51 TOS vs uso reale in salute
03:36 Illich e Nemesi Medica
04:35 La chat come monopolio
05:20 Perché l’LLM non fa triage
06:59 Quando chiamare persone vere
#ChatGPT #OpenAI #SamAltman
~~~
Ciao Internet! - Il primo e più seguito canale di TECH POLICY in italia, con Matteo Flora
INFO E AZIENDE:
https://matteoflora.comIl CORSO di AI:
https://zero.matteoflora.comNewsletter:
https://link.mgpf.it/nlSocial:
https://io.matteoflora.comEnglish:
https://www.youtube.com/@CiaoInternet
Privacy »
https://privacy.matteoflora.comAI Policy »
https://privacy.matteoflora.com/aiMail #adv: sales (at) matteoflora.com
