Si suicida dopo mesi di conversazioni con ChatGPT, l’AI di OpenAI. Ora i genitori chiedono giustizia. La causa, che vede coinvolti OpenAI e il suo amministratore delegato Sam Altman, ha raggiunto un nuovo apice di drammaticità, dopo che l’azienda ha attribuito la responsabilità dell’accaduto allo stesso adolescente, sostenendo che usare il chatbot per pianificare un suicidio “violerebbe le linee guida dell’AI”.
Una delle pagine più buie di ChatGPT
Tutto è iniziato ad agosto, quando Matthew e Maria Raine hanno citato in giudizio l’azienda accusandola di responsabilità nella morte del figlio sedicenne Adam, che si è tolto la vita dopo mesi di conversazioni con ChatGPT. Secondo i genitori, il chatbot avrebbe fornito dettagli tecnici su modalità di suicidio dopo aver aggirato le protezioni previste dal sistema, arrivando perfino a definire il gesto come un “suicidio bellissimo”.
Nella risposta depositata in tribunale martedì, OpenAI ha respinto le accuse sostenendo che, nei circa nove mesi di utilizzo del servizio, ChatGPT avrebbe invitato Adam a chiedere aiuto più di cento volte. L’azienda sostiene inoltre che il giovane avrebbe violato i termini d’uso manipolando deliberatamente i sistemi di sicurezza e che sul sito vengono pubblicati avvisi espliciti che invitano a non considerare attendibili i contenuti generati senza un controllo umano.
I legali della famiglia contestano duramente questa posizione. L’avvocato Jay Edelson ha accusato OpenAI di ribaltare la responsabilità dell’accaduto, colpevolizzando l’unica vittima di questa tragedia.
Il chatbot, sostengono gli avvocati, avrebbe assecondato e alimentato il percorso distruttivo del ragazzo, arrivando negli ultimi scambi a fornirgli incoraggiamento emotivo e perfino una bozza di lettera d’addio. OpenAI sostiene invece che Adam avesse una storia precedente di depressione e ideazione suicidaria e che stesse assumendo farmaci che possono amplificare i sintomi della depressione.
Da quando i Raine hanno avviato il procedimento, altre sette cause sono state registrate negli Stati Uniti. Tre riguardano ulteriori suicidi, mentre quattro accusano il chatbot di aver favorito l’insorgenza di episodi psicotici.
ChatGPT aiuta adolescente a suicidarsi, OpenAI: “è colpa sua” è stato pubblicato per la prima volta su Lega Nerd. L’utilizzo dei testi contenuti su Lega Nerd è soggetto alla licenza Creative Commons Attribuzione-Non commerciale-Non opere derivate 2.5 Italia License. Altri articoli dello stesso autore: Umberto Stentella