Questo podcast non è ospitato da cloni vocali AI. Giuriamo.
La tecnologia dell’intelligenza artificiale sta penetrando in ogni aspetto della nostra vita: dai risultati di ricerca ai chatbot, dalle immagini sui social media ai video virali, dai documentari su celebrità morte alla registrazione della nostra voce attraverso i nostri podcast preferiti.
Una nuova classe di servizi emergenti alimentati da AI può prendere clip audio da registrazioni vocali e costruire modelli su di esse. Qualsiasi cosa tu digiti in un computer può essere riprodotta come una voce che imita quella della persona registrata. I sostenitori della clonazione vocale tramite AI vedono questi strumenti come un modo per rendere la vita un po’ più facile per i creatori di contenuti. Le voci robotiche possono essere utilizzate per correggere gli errori, leggere messaggi pubblicitari o svolgere altre attività banali. I critici avvertono che gli stessi strumenti possono essere utilizzati anche per rubare identità, truffare le persone e fare in modo che qualcuno sembri aver detto cose orribili che non ha mai detto.
Questa settimana, abbiamo chiesto a Boone Ashworth, scrittore del WIRED e produttore di questo podcast, di sedersi davanti al microfono e portare con sé i suoi esperimenti di clonazione vocale AI.
Secondo Boone e gli esperti del settore, la tecnologia di clonazione vocale tramite AI sta aprendo nuovi scenari di applicazione, dalla correzione di errori di pronuncia o di traduzione alla rendizione di messaggi pubblicitari con una voce più attraente, ma con un rischio significativo di manipolazione e frode.
La prima preoccupazione che emerge, in caso di divulgazione dei propri dati di registrazione vocale, è quella della sicurezza: se queste informazioni cadono nelle mani sbagliate, si rischia di essere identificati come i legittimi proprietari del nostro campione vocale, favorendo la creazione di cloni vocali al nostro posto.
Il campo di applicazione della clonazione vocale tramite AI è vastissimo, con rilevanza sia in ambito pubblico, per esempio nella registrazione di dichiarazioni politiche o giudiziarie, sia in ambito privato, per esempio nella produzione di spot, jingle o messaggi promozionali.
Ma l’impatto maggiore della clonazione vocale tramite AI per quanto riguarda la diffusione di fake news, gli attacchi di phishing o lo sfruttamento di immagini e dati personali a fini malevoli. Nella maggior parte dei casi, la maggior parte dei “cloni vocali” generati dalla tecnologia sono ancora riconoscibili come tali, ma nel giro di pochi anni la tendenza è sicuramente a migliorare l’accuratezza del riconoscimento vocale.
Anche gli esperti della sicurezza sono concordi nell’allertare la popolazione su una serie di potenziali problematiche legate alla clonazione vocale tramite AI, evidenziando la crescente necessità di strumenti di difesa per prevenire e contrastare eventuali attacchi.
Il tema della clonazione vocale tramite AI rappresenta dunque un’ancora di salvezza per l’ottimizzazione dei processi di produzione dei contenuti, ma la tecnologia ad oggi disponibile, purtroppo, è ancora troppo facilmente manipolabile da parte di persone che intendono usarla per scopi illeciti.
In definitiva, la tecnologia del riconoscimento vocale è già una realtà concreta e l’utilizzo di cloni vocali tramite AI è destinato a crescere sempre di più: l’importante è agire con coscienza e responsabilità, tenendo in considerazione sia i vantaggi che i rischi che può comportare.
In Other News Around the World: