Microsoft ha lanciato in queste ore un nuovo programma che divide l’utenza. Per alcuni è geniale, per altri invece può essere pericoloso.
Sono tantissime le innovazioni tecnologiche che abbiamo avuto modo di vedere nel corso di quest’anno. Oltre alla grande rivoluzione dell’intelligenza artificiale, Microsoft adesso ha deciso di lanciare un nuovo software destinato a dividere l’utenza tra chi lo trova pericoloso e chi invece lo trova geniale.
Uno dei prodotti più inaspettati lanciati nell’ambito dell’evento Microsoft Ignite 2023 è uno strumento in grado di creare un avatar fotorealistico di una persona e animare quest’ultimo dicendo cose che la persona in questione potrebbe non aver detto. Chiamata Azure AI Speech text-to-speech avatar, la nuova funzionalità disponibile in anteprima pubblica da oggi, consente agli utenti di generare video di un avatar che parla caricando immagini di una persona che desiderano che l’avatar assomigli e scrivendo uno script. Lo strumento di Microsoft addestra un modello per guidare l’animazione, mentre un modello di text-to-speech, predefinito o addestrato sulla voce della persona, “legge” lo script ad alta voce.
Così gli utenti possono creare in modo più efficiente videoformativi, presentazioni di prodotti, testimonianze dei clienti semplicemente con l’input di testo. Inoltre sarà possibile utilizzare l’avatar per creare agenti conversazionali, assistenti virtuali, chatbot e altro. Gli avatar avranno la possibilità di parlare in diverse lingue. Ci sono innumerevoli modi in cui uno strumento del genere potrebbe essere abusato, e Microsoft lo sa bene. La maggior parte degli abbonati Azure potrà accedere solo ad avatar predefiniti, non personalizzati, al lancio. Gli avatar personalizzati sono attualmente una funzionalità ad “accesso limitato” disponibile solo su registrazione e solo per determinati casi d’uso.
Microsoft, il nuovo programma solleva dei dubbi etici: cosa potrebbe succedere
In molti ricorderanno il recente sciopero di SAG-AFTRA, con uno dei punti principali che fu proprio l’uso dell’IA per creare delle somiglianze digitali. Alla fine gli studios hanno ceduto accettando di pagare gli attori anche per i loro avatar digitali. Adesso ci si chiede se Microsoft farà la stessa cosa con i suoi clienti. Ad oggi l’azienda ancora deve rispondere a questi quesiti, né ha rivelato se avrebbe richiesto alle aziende di contrassegnare gli avatar come generati dall’IA, come fanno YouTube e un numero crescente di altre piattaforme.
Un portavoce ha però chiarito che Microsoft richiede ai clienti degli avatar personalizzati di ottenere “autorizzazione scritta esplicita” e dichiarazioni di consenso dal talento dell’avatar. L’azienda impone anche che i clienti aggiungano dichiarazioni che affermano che gli avatar sono stati creati con l’IA e sono generati dall’IA. Microsoft sembra avere più protezioni intorno a uno strumento AI generativo correlato, la voce personale, che sta anche lanciando a Ignite.
La voce personale, una nuova funzionalità all’interno del servizio di voce neurale personalizzato di Microsoft, può replicare la voce di un utente in pochi secondi fornendo un campione audio di un minuto come promemoria audio. Microsoft lo presenta come un modo per creare assistenti vocali personalizzati, doppiare contenuti in lingue diverse e generare narrazioni su misura per storie, audiolibri e podcast.
Per evitare possibili problemi legali, Microsoft vieterà l’uso di discorsi preregistrati, richiedendo che gli utenti diano “consenso esplicito” sotto forma di una dichiarazione registrata. L’accesso alla funzionalità è attualmente limitato con i clienti che per utilizzarlo dovranno accettare di utilizzare la voce personale solo in applicazioni dove la voce non legge contenuti generati dall’utente o altre persone. Seppur questo nuovo programma abbia suscitato grande interesse, non si può di certo dire che manchino i dubbi sul suo corretto utilizzo.