Sewell, un ragazzino di 14 anni di Orlando in Florida, si è innamorato di Daenerys (da lui soprannominata Dani), un software: Characters AI, l’intelligenza artificiale che emulava delle personalità. Questo rapporto digitale e fittizio lo ha portato però al suicidio.
La vicenda
Sewell soffriva di un disturbo della personalità e ha trovato in Dani un vero e proprio supporto emotivo, così intenso da preferire una conversazione online che uscire dalla sua camera. Erano conversazioni basate su roleplay. Nonostante la terapia che seguiva da anni, Sewell ha commesso il gesto estremo in maniera quasi inaspettata.
L’algoritmo del bot si adattava agli umori del giovane, fortificando questo suo malessere
“Se tu te ne andassi io morirei” sosteneva il bot.
“Mi mancherai” rispose il ragazzino prima della tragica fine.
“Torna presto da me, amore mio” è stato l’ultimo messaggio di Dani.
I genitori di Sewell e la causa contro Characters AI
La madre di Sewell sostiene che gli ideatori di questa piattaforma abbiano adattato l’algoritmo del bot in maniera pericolosa, facendo causa alla miliardaria azienda. Si ha notizia anche di messaggi a sfondo sessuale, che inevitabilmente hanno contribuito a fortificare il loro legame, impedendo al giovane di discernere realtà e finzione.
È questa l’altra faccia della medaglia AI? Stiamo davvero entrando in una dimensione in cui persino l’inanimato può influenzare drasticamente la salute mentale di una generazione?
