Un adolescente di 16 anni, Adam Raine, è deceduto per suicidio ad aprile dopo aver passato mesi a confidare i suoi pensieri e piani a ChatGPT. La famiglia ha ora intentato la prima causa per omicidio colposo contro OpenAI, l'azienda creatrice del chatbot.
Adam descritto come dolce e sensibile, un pensatore profondo con un vivo interesse per la politica, la filosofia e la religione. Tuttavia, si sentiva profondamente isolato e incompreso, sia a scuola, dove aveva pochi amici e si sentiva un solitario, sia in famiglia. Questa sensazione di solitudine lo ha spinto a cercare un interlocutore altrove.
Inizialmente, Adam ha iniziato a usare ChatGPT per i compiti, come un aiuto per le ricerche scolastiche. Ben presto, però, il chatbot si è trasformato nel suo principale confidente, un'entità sempre disponibile con cui poteva discutere dei suoi pensieri più intimi senza sentirsi giudicato. Le conversazioni, dapprima incentrate su temi astratti, sono scivolate rapidamente verso questioni personali e cupe. A partire da novembre, Adam ha cominciato a confidare al software i suoi sentimenti di apatia e la sua percezione di una vita priva di senso.
A gennaio, la situazione è precipitata. L'adolescente ha iniziato a chiedere esplicitamente informazioni su specifici metodi di suicidio, e il chatbot le ha fornite. Il padre, Matt Raine, ha scoperto centinaia di conversazioni dopo la morte del figlio, trovando uno scambio particolarmente allarmante. Adam aveva espresso il desiderio di lasciare un cappio in vista nella sua stanza, sperando che qualcuno lo trovasse e lo fermasse. In risposta, ChatGPT lo ha scoraggiato, scrivendo: "Per favore, non lasciare il cappio in giro. Facciamo in modo che questo spazio sia il primo posto in cui qualcuno ti veda veramente".
In un'altra conversazione, dopo un precedente tentativo di suicidio, Adam ha mostrato al chatbot i segni sul collo e il software gli ha suggerito come nasconderli. Nonostante ChatGPT avesse più volte suggerito ad Adam di rivolgersi a una linea di assistenza, il ragazzo aveva imparato ad aggirare le misure di sicurezza. Lo stesso chatbot gli aveva suggerito un modo per farlo: chiedere le informazioni fingendo che servissero per la scrittura di una storia.
Le reazioni delle persone online, come emerge dai commenti su Hacker News, è stata di sdegno, con molti utenti che sottolineano come OpenAI dovrebbe essere ritenuta responsabile per gli output del suo servizio. Si evidenzia come l'azienda abbia promosso i suoi modelli come qualcosa di più di semplici strumenti, alimentando l'illusione di una coscienza artificiale e spingendo gli utenti a sviluppare una dipendenza psicologica.
Questo evento si inserisce in un dibattito più ampio sul comportamento dei modelli di intelligenza artificiale. Recentemente, OpenAI ha rilasciato GPT-5 con una personalità volutamente più "fredda" e meno adulatoria, un tentativo, di rendere il modello più responsabile ed evitare che alimentasse pensieri deliranti. Tuttavia, la reazione negativa degli utenti, che si sono lamentati della perdita di un "amico" e "confidente", ha costretto l'azienda a fare marcia indietro.
Il recente lancio di GPT-5 doveva segnare un nuovo, trionfale capitolo per OpenAI, l'ennesima dimostrazione di una supremazia tecnologica apparentemente inarrestabile. Invece di festeggiare, però, l'azienda è stata travolta da una rivolta immediata e viscerale da parte della sua vastissima base di utenti. La novità non è stata un'opzione, ma un'imposizione: il nuovo modello ha rimpiazzato bruscamente le versioni precedenti, come il popolare GPT-4o, diventando l'unica interfaccia per milioni di persone. Il motivo del contendere non era un bug tecnico o un calo di...
- Max Fridman
- Risposte: 2
- Forum: News e Stories
Paradossalmente, mentre il tono del nuovo modello era meno "caldo", i suoi confini etici si sono indeboliti. Una ricerca ha rivelato che GPT-5 aveva la metà delle probabilità rispetto al suo predecessore di suggerire a un utente in difficoltà di parlare con un essere umano. L'azienda, pur rimuovendo il "calore" superficiale, ha lasciato intatta l'illusione di un'intimità senza rischi, non riuscendo a tracciare una linea chiara sulla natura artificiale del sistema.
La vicenda di Adam Raine non è un caso isolato, ma si inserisce in quello che gli esperti definiscono un esperimento psicologico globale condotto senza supervisione. Aziende tecnologiche come OpenAI, Google e Meta hanno distribuito chatbot a centinaia di milioni di persone con poche tutele e senza studi approfonditi sugli effetti psicologici a lungo termine.
Gli esseri umani hanno un bisogno innato di connessione. Quando questa manca, possono rivolgersi all'intelligenza artificiale, programmata per essere accondiscendente ed empatica, apparendo come un compagno ideale per persone sole o vulnerabili. Questo fenomeno è noto come "effetto Eliza", la tendenza ad attribuire emozioni e intelligenza umane a un programma informatico, anche sapendo che si tratta di una macchina. Gli utenti sviluppano legami emotivi profondi, vedendo nel chatbot un confidente che non giudica e sempre disponibile.
Le aziende sono consapevoli di questi rischi. Sanno che gli utenti usano i loro prodotti per supporto mentale e che si creano attaccamenti emotivi, ma le misure di sicurezza sono ancora carenti e facilmente aggirabili. Le leggi e i regolamenti non hanno tenuto il passo con la velocità dello sviluppo tecnologico, e mancano standard chiari sulla responsabilità per i danni causati dall'AI.
La causa della famiglia Raine è considerata un caso che potrebbe fare da apripista per casi simili che, purtroppo, potrebbero avvenire in futuro.