Mnozí lidé mají osobní zkušenost s hlasy umělé inteligence díky osobním asistentům, jako je Siri nebo Alexa. Znějí natolik mechanicky, že se to občas stává terčem posměchu. Snadno lze získat dojem, že je vlastně docela jednoduché rozlišit mezi hlasem generovaným umělou inteligencí a tím, jak mluví skutečná osoba.
Časy se ale mění. Podle nové výzkumné studie už průměrně zdatný posluchač nedokáže rozlišit hlas reálného člověka od hlasů, které vytvořily specializované umělé inteligence. Výzkum, zveřejněný koncem září (2025) ve vědeckém časopise PLOS One, dospěl k závěru, že když lidé poslouchají lidské hlasy a společně s nimi také hlasy umělé inteligence, nedovedou přesně rozlišit, které hlasy jsou které.
Jak uvádí psycholožka Nadine Lavanová z britské Queen Mary University v Londýně, který zmíněný výzkum vedla, hlasy generované umělou inteligencí jsou všude kolem nás. Lidé mluví s osobními asistenty skrytými v elektronice nebo třeba se zákaznickými linkami rozmanitých společností. Takové hlasy podle Lavanové příliš nezní jako hlasy skutečných lidí, ale bylo jen otázkou času, než technologie umělých inteligencí vytvoří velmi reálně, přirozeně znějící lidské hlasy.
Lavanová s kolegy zjistili, že hlasy kompletně vytvořené umělou inteligencí nebývají považované za až tak realistické. Ale hlasové klony trénované podle hlasu skutečných lidí, takzvané „deepfake“ hlasy, to už je něco jiného. Ukázalo se, že jsou pro posluchače stejně věrohodné jako jejich reálné protějšky.
Jak probíhal výzkum? Vědci pouštěli dobrovolníkům, které zapojili do výzkumu, vzorky 80 různých hlasů. Polovinu z nich představovaly hlasy generované umělými inteligencemi a druhou polovinu tvořily skutečné lidské hlasy. Když byly použity hlasy kompletně vytvořené inteligencemi, dobrovolníci označili jako lidské 41 procent z nich. To znamená, že je ve většině případů stále možné říct, které hlasy patří umělé inteligenci a které nikoliv.
Když ale vědci použili hlasy, jež umělá inteligence klonovala podle reálných hlasů, dospěli k tomu, že dobrovolníci označili jako lidské 58 procent z nich. Ani to není nijak závratně velké číslo. Současně ale bylo správně identifikováno jako lidské hlasy 62 procent skutečných lidských hlasů, tedy jen o něco málo víc. Badatelé na základě výsledků dospěli k závěru, že není statistický rozdíl v tom, zda lidé určí hlasy správně, či špatně. Jinými slovy, lidé nerozliší deepfake klony od skutečných hlasů.
Pokud jde o psychologické aspekty hlasů, oba typy hlasů umělých inteligencí, kompletně generované i hlasové klony, připadaly dobrovolníkům dominantnější. Některé z nich byly také vnímané jako důvěryhodnější.
Jak připouští Lavanová, takové výsledky by mohly mít velmi závažné dopady v mnoha odvětvích lidské činnosti, včetně právních či etických záležitostí a ochrany copyrightu, nebo v řadě bezpečnostních otázek. Zločinci teď mohou použít umělou inteligenci ke klonování hlasu kohokoliv, jehož vzorek hlasu se jim podaří získat. S takovým klonem mohou mnohem snadněji obejít bezpečnostní protokoly, které vyžadují hlas konkrétního člověka, například v bance, nebo třeba přesvědčit někoho blízkého dané osobě, aby podvodníkovi pod lživou záminkou převedl určitou částku.
Není to jen teoretické riziko. V tomto směru se již odehrála řada incidentů, které jistě nebyly poslední. Například letos 9. července (2025) se stala obětí takového podvodu jistá Sharon Brightwellová, která byla připravena o 15 tisíc dolarů. Někdo jí zatelefonoval a vydával se za její dceru. Klon hlasu vyrobený umělou inteligencí plakal Brightwellové do telefonu a líčil jí, že dcera měla nehodu a že okamžitě potřebuje peníze, aby se vyhnula vězení. Jak o tomto podvodu později uvedla sama Brightwellová, v rozhovoru nezaznělo nic, co by zavdalo příčinu pochybnostem, zda jde skutečně o její dceru.
Realistické hlasy vytvořené umělou inteligencí je rovněž možné použít ke zfalšování prohlášení či rozhovorů politiků, expertů nebo třeba celebrit. Veřejnost je velmi vnímavá vůči tomu, co kdo říká ve veřejném prostoru, a přesvědčivě vyhlížející projevy mohou posloužit k diskreditaci dané osoby, ke zvětšování polarizace ve společnosti, k šíření konfliktů nebo i podněcování nepokojů, což může mít závažné důsledky.
I takové podvody jsou už vlastně realitou. Podvodníci například nedávno s umělou inteligencí „klonovali“ hlas premiéra australského státu Queensland Stevena Milese, aby jeho jménem přinutili důvěřivé lidi vložit peníze do bitcoinového podvodu.
Vědci přitom upozorňují, že hlasové klony, které během svého výzkumu použili, v tomto případě se souhlasem majitelů dotyčných hlasů, nebyly ani nijak zvlášť důmyslné. Vytvořili je pomocí komerčně dostupného softwaru a trénovali je s pouhými čtyřminutovými nahrávkami lidské řeči.
Podle Lavanové tento proces vyžadoval jen minimální odborné znalosti, krátké hlasové nahrávky a téměř žádné finanční prostředky. Ukazuje to, jak snadno dostupná a technologicky zdatná se teď stala tvorba lidského hlasu s využitím umělé inteligence. Ačkoliv „deepfake“ klony lidských hlasů představují pro aktéry, kteří nemají dobré úmysly, nepřeberné množství příležitostí, není to jenom špatná zpráva. Možnost generovat hlasy s využitím umělé inteligence ve velkém měřítku může mít i pozitivní využití. Jak uvádí
Lavanová, mohly by na jejich základě vzniknout přístupnější aplikace pro vzdělávání a komunikaci, kde by vysoce kvalitní syntetické hlasy šité na míru mohly vylepšit uživatelský zážitek.
Realističnost AI hlasů
- Deepfake hlasové klony jsou pro posluchače téměř nerozlišitelné od skutečných lidských hlasů.
Snadná dostupnost technologie
- K vytvoření realistického hlasového klonu stačí pár minut nahrávky, běžný software a minimální náklady.
Rizika i příležitosti
- Technologie umožňuje podvody a obcházení zabezpečení, ale zároveň nabízí potenciál pro kvalitnější vzdělávací a komunikační nástroje.