Gli sviluppatori hanno presentato la nuova funzione dicendo: ora i nonni defunti potranno continuare a raccontare le fiabe ai nipoti. La verità è che all’assistente vocale di Amazon basterà meno di un minuto di audio per imitare la voce di chiunque.

Tutti abbiamo sentito dire, o siamo proprio stati noi a dire, la frase: “Non ricordo più la sua voce”, parlando di una persona cara che è venuta a mancare. E lo si dice con uno struggimento che forse oggi dobbiamo cominciare a considerare come un privilegio, il privilegio della nostalgia. Che ci fa alzare gli occhi al cielo.

È stata subito oggetto di dibattito la nuova funzione di Alexa, l’assistente vocale di Amazon che ha già raggiunto significativi traguardi e ora in grado di imitare e riprodurre la voce di qualsiasi persona, incluse quelle dei defunti più cari. Presentata alla Re:MARS Conference di Las Vegas da Rohit Prasad, vicepresidente senior della divisione che si occupa degli aggiornamenti e dello sviluppo dell’assistente digitale, la novità ha destato più di un qualche dubbio etico tra il pubblico, dal momento che proprio l’esempio preso in esame era quello di un video nel quale Alexa leggeva a un bambino una favola con la voce della nonna scomparsa qualche tempo prima.

Da Corriere

Il diavolo sta proprio nei dettagli, costruiti ad arte. La presentazione di questa nuova funzionalità di Alexa, che suscita seri interrogativi etici, è stata pensata per avere un impatto emotivo fortissimo. La scena offerta è stata quella di un bambino abituato ad addormentarsi ascoltando le favole raccontate dalla nonna e che, una volta scomparsa la nonna, si ritrova a chiedere all’assistente vocale:

Alexa, la nonna può finire di leggermi il mago di Oz?

Chi non rimane attratto, o commosso, da un simile scenario? Sentire di nuovo la voce di chi abbiamo perso. Addirittura conversare con lei o con lui. Illuderci che quel legame non si è interrotto. Anche servitaci su un vassoio d’argento, quest’ipotesi è proprio la via più diretta per non alzare più gli occhi al Cielo, per smettere di interrogarci sull’eterno e desiderarlo.

Al posto di questa tensione che dalla morte ci spinge a guardare oltre, avremo strumenti molto avanzati e capaci di tenerci incollati alla caducità della terra, illudendoci di parlare coi morti.

In soldoni, qual è dunque la nuova funzionalità di Alexa? Le basterà meno di un minuto di registrazione audio per saper imitare con precisione qualunque voce. Diciamo che, detta così, farebbe subito storcere il naso anche ai meno esperti di tecnologia. Sorge spontanea la domanda: quindi non vale solo per i defunti, Alexa può ‘impossessarsi’ anche della mia voce? E cosa può succedere poi?

Le ipotesi in merito ci suggeriscono che siamo già dentro un campo minatissimo, in cui le potenzialità dell’intelligenza artificiale collidono con la libertà personale.

Da qui la necessità degli sviluppatori di presentare l’ upgrade dell’assistente vocale in modo suadente, spostando lo sguardo altrove dal campo minatissimo. Notiamo la finezza. La comunicazione riguardo alla nuova funzionalità di Alexa è ruotata attorno a una parola chiave fondamentale: memoria.

La compagnia promette di riuscire a “rendere durevole la memoria”.

Da The Guardian

Notiamo anche che, sulla base di questo orizzonte che tocca le corde più profonde di tutti noi, la retorica è riuscita a distogliere egregiamente l’attenzione dalle crepe etiche.

Rohit Prasad, il vice-presidente e scienziato capo, ha detto alla presentazione di mercoledì […] che durante la pandemia “molti tra noi hanno perso quelli che amavano”.

Ibidem

E chi non ha piantato nel cuore il bisogno di dire ancora qualcosa a quelli a cui non ha potuto dire addio? Infilarsi nella fessura di una ferita profonda, ecco il trucco ben congegnato. Sappiamo bene quanto le persone abbiano patito nei mesi più bui in cui i contatti si interrompevano brutalmente a causa del ricovero per Covid. Quando non c’era l’opportunità di un congedo in presenza, prima della morte.

E visto che sono state chiamate in causa le fiabe, diciamolo. Qui c’è il lupo che si traveste da nonna per mangiare Cappuccetto Rosso. Possono anche raccontarci che Alexa vuole ridarci la voce della nonna perduta, ma dietro questo traversimento c’è un nemico onnivoro.

C’era il tempo in cui si andava dal medium per riuscire a mettersi in contatto con lo zio morto. Questo è già il tempo in cui gli strumenti tecnologici permettono di far parlare i morti.

Nel 2020 Joshua Barbeau costruì una versione del GPT-3 chatbot in grado di generare una conversazione con la sua fidanzata Jessica, morta 8 anni prima. E nel 2018 Eugenia Kuyda ha creato un chatbot basandosi sui vecchi messaggi del suo fidanzato Roman Mazurenko. “Non mi aspettavo che avesse un impatto così forte. Di solito è molto dura per me esternare le emozioni e i pensieri sulla perdita, quel che ho fatto era il tentativo di evitarli. Parlare con l’avatar di Roman mi aiutava ad affrontare quei demoni.

Da The Guardian

Quest’illusione di comunicazione va a pescare nella nostra intimità più profonda (nel grande interrogativo che c’è dietro ogni lutto). Ma è evidente che certe ricerche e conquiste sull’intelligenza artificiale non mirano tanto a lenire il dolore di una mancanza, quanto a mimare la voce umana. L’aspetto davvero scottante non è solo lo scenario che riguarda il contatto coi morti, ma che ne sarà dei vivi una volta che la voce di ciascuno sarà riproducibile da una macchina.

Ecco perché altre compagnie hanno deciso di mettere dei paletti etici che impediscano di manipolare la libertà personale attraverso l’uso di voci sintetiche:

La potenzialità tecnologica è innegabile, ma il nuovo strumento pone non poche riflessioni di carattere etico, già ampiamente dibattute sulle piattaforme social dagli utenti più preoccupati. L’imitazione di qualsiasi voce può essere ricondotta a un classico esempio di deepfake a livello audio, quindi una nuova pericolosissima opportunità per diffondere fake news sempre più difficili da riconoscere. Non un problema che riguarda i defunti quindi, detto che per i parenti degli stessi comporterebbe non pochi problemi di elaborazione del lutto, ma qualcosa di altamente pericoloso per le persone ancora in vita, che potrebbero di conseguenza subire la clonazione della propria voce per fini illeciti.

[…] Non a caso Microsoft, prima che Amazon presentasse l’ultima novità, aveva pubblicato nuove regole etiche per l’utilizzo e lo sviluppo dell’Intelligenza Artificiale (non solo quindi in ambiti specifici come quello sanitario), un quadro normativo che potrebbe in futuro porre non pochi limiti allo sviluppo delle voci «sintetiche».

Da Corriere

Il privilegio della nostalgia, ho cominciato citando quest’ipotesi. Ci pensavo scorrendo certi titoli spericolati in cui si scriveva: “Alexa resuscita i morti”. No, non li resuscita; però se ci vuole convincere di poterlo fare è perché … il re è nudo. A dispetto di tutto quello che le fanfaronate mediatiche raccontano sull’umanità, l’uomo sente di essere fatto per la Resurrezione. Forse, considerando l’umanità in generale, sente solo un’eco flebile nel cuore, che parla una lingua ormai indecifrabile. Eppure.

Eppure il nostro destino è proprio la Resurrezione. E questo implica il distacco dal travaglio terreno attraverso quel paradosso che è la morte. E’ un passaggio che porta a piangere per la mancanza di chi perdiamo. Quel pianto, a ben vedere, è acqua che nutre la nostra coscienza. Avere strumenti sempre più sofisticati che ci illudano di non sentire la perdita, fa cadere la nostra libertà in un letargo pericoloso. La addormenta (la distrae), impedendole di stare in pienezza di vertigine di fronte alle domande che solo la realtà della morte fa nascere: siamo per il nulla? ti ho perso per sempre?

Lo struggimento dietro quella frase spesso sentita – “Non mi ricordo più la sua voce” – è il dolore benedetto di chi, solo patendo il passo della perdita, può osare riconoscere che l’unica misura adeguata alla nostra anima è: ti ritroverò in Cielo.

(No, non ritroveremo nessuno fissando un cilibro parlante su una mensola, e forse perderemo qualcosa di noi stessi).

Fonte: Annalisa Teggi | Aleteia.org