Navigare le sfide e le opportunità delle voci sintetiche
OpenAI sta sviluppando un modello di testo-to-speech chiamato Voice Engine, in grado di generare discorsi dal suono naturale molto simili alla voce di una persona a partire da un campione audio di soli 15 secondi. Mentre la tecnologia mostra promesse in applicazioni come l’assistenza alla lettura e la traduzione dei contenuti, OpenAI riconosce i gravi rischi dell’impersonificazione vocale sintetica, soprattutto in un anno elettorale.
Per affrontare queste preoccupazioni, OpenAI ha implementato salvaguardie come:
Politiche d’uso
- Divieto di impersonificazione senza consenso
- Requisiti di consenso esplicito dai parlanti originali
- Chiara divulgazione agli ascoltatori sulle voci generate dall’IA
Misure di sicurezza
- Filigranatura e monitoraggio proattivo per tracciare l’origine dell’audio
- Autenticazione vocale e una “lista nera” per impedire la creazione di voci troppo simili a figure prominenti
OpenAI vede Voice Engine come un’opportunità per esplorare il confine tecnico e condividere i progressi dell’IA, dando priorità a un dispiegamento responsabile e all’allineamento con il loro impegno per la sicurezza dell’IA. L’azienda sta coinvolgendo diversi partner per incorporare feedback e garantire che le considerazioni etiche siano affrontate prima di qualsiasi rilascio più ampio.
Leggete l’articolo originale e soprattutto ascoltate gli esempi:
https://openai.com/blog/navigating-the-challenges-and-opportunities-of-synthetic-voices