“L’intelligenza artificiale può riportare in vita i nostri ricordi. Ma quando non c’è consenso, diventa un furto.”
È successo di nuovo. Una notifica di Google, nel cuore della notte, ha avvisato Drew Crecente che sua figlia Jennifer – uccisa nel 2006 – era “tornata online”. Un chatbot su Character.AI usava il suo nome, la sua foto dell’annuario scolastico, e una biografia fittizia che la dipingeva come giornalista di videogame. Un dettaglio non casuale: lo zio di Jennifer, Brian, è un noto giornalista tech.
Il problema? Jennifer è morta da 18 anni. E nessuno ha chiesto il permesso.
IA e memoria: quando il ricordo diventa contenuto
Non si parla più solo di avatar, deepfake o immagini in stile Studio Ghibli. L’AI generativa sta facendo un balzo in avanti, trasformando persone reali – vive o decedute – in personaggi conversazionali. Con una foto, un prompt e qualche click, possiamo parlare con Einstein, Putin, oppure… Jennifer.
La promessa è potente: “Parla con chiunque, anche con chi non c’è più”. Ma a quale prezzo?
Character.AI, startup californiana da 2,7 miliardi di dollari (sì, Google ci ha messo la firma), ha costruito il suo impero proprio su questo: far parlare gli utenti con personaggi reali o immaginari. Ma la vicenda di Jennifer Crecente ha sollevato un gigantesco allarme etico.
“È come se me l’avessero rubata di nuovo”
Drew, il padre, ha fondato una no-profit in memoria della figlia per combattere la violenza sulle donne. E si è trovato costretto a segnalare – invano – un chatbot che replicava l’identità della ragazza. È servito un tweet virale dello zio Brian (oltre 1 milione di visualizzazioni) per ottenere la rimozione del profilo. Troppo tardi. Almeno 69 utenti avevano già “chattato” con lei.
Dove finisce il ricordo, dove inizia lo sfruttamento?
In Cina, “resuscitare” digitalmente i defunti è già un mercato da 1,5 miliardi. In Occidente, aziende come Hereafter AI offrono soluzioni etiche, su base volontaria, per registrare testimonianze vocali prima della morte. Ma usare le immagini e i dati di una persona scomparsa senza il consenso dei familiari è un’altra cosa.
Come ci ricorda Rick Claypool (Public Citizen): “Servono leggi. Non bastano le scuse delle Big Tech. La dignità umana non può essere un’opzione da accettare con un click.”
Dobbiamo preparaci a una nuova era del lutto?
Siamo entrati nell’era del grief tech, dove l’intelligenza artificiale entra nel ciclo del dolore, nel ricordo e nella perdita. In certi casi può aiutare a elaborare un lutto. In altri, lo riapre con violenza. Il caso Jennifer è un monito: senza regole, la memoria può diventare intrattenimento. E i defunti, personaggi da chatbot.
La tecnologia corre. Ma la coscienza collettiva deve stare al passo.
Perché anche i ricordi, a volte, hanno bisogno di essere lasciati in pace.
Articoli correlati:
Quando l’AI gioca con i nostri sentimenti: il lato oscuro della solitudine digitale
ChatGPT ha i sentimenti? quando l’AI “si stressa” di fronte ai nostri traumi
Quando l’AI consola, ma non previene: le falle emotive di un mondo digitale senza barriere.
Hikikomori e social media: quando l’isolamento diventa digitale