ElevenLabs probeert de creatie van misinformatie met AI een halt toe te roepen. Het bedrijf voert om deze reden een belangrijke update door aan zijn AI-spraaktool.
ElevenLabs bracht in januari een bètaversie uit van zijn AI-spraaktool. Deze zet tekst om naar gesproken taal door middel van generatieve AI. Volgens het bedrijf zijn er de afgelopen maanden al mooie zaken voortgevloeid uit de tool zoals een audioboek en een radiokanaal dat volledig met AI-presentatoren werkt.
Tip: Meta onthult Voicebox, generatieve AI voor spraak
Eerste stap naar oplossing
Andere gebruikers experimenteerden dan weer met de mogelijkheden om audio deepfakes te maken. Zij maken via de tool een geluidsopname van een beroemdheid of een vriend die ze de woorden letterlijk in de mond leggen.
Het bedrijf wil daar nu een oplossing voor bieden met AI Speech Classifier. Het houdt de creatie van misleidende spraakberichten niet tegen, maar geeft gebruikers de mogelijkheid om de echtheid van een spraakbericht te controleren.
Beperkingen
De tool kan echter alleen controleren of het audiobestand tot stand kwam met behulp van ElevenLabs. Als er gesleuteld werd aan het originele audiobestand van de AI-spraaktool, wordt AI Speech Classifier ook onnauwkeuriger. De betrouwbaarheid zakt dan van 99 procent naar ongeveer 90 procent.
“De AI Speech Classifier is een cruciale stap voorwaarts in onze missie om efficiënte tracking te ontwikkelen voor door AI gegenereerde media. Met de lancering van vandaag willen we onze toewijding aan transparantie in de generatieve mediaruimte verder versterken”, klinkt het in de aankondiging.