Čo je deepfake a ako súvisí s voľbami?
Čo je to deepfake?
V dobe, kedy sa hranica medzi realitou a fikciou stáva čoraz menej jasnou, predstavuje vzostup obsahu generovaného umelou inteligenciou zásadnú výzvu pre rozoznávanie toho, čo je pravda a čo lož. V tejto súvislosti sú často spomínané najmä deepfake nahrávky. Podľa Krátkeho terminologického slovníku hybridných hrozieb predstavuje pojem deepfake „Zavádzajúci neautentický audiovizuálny obsah vytvorený pomocou umelej inteligencie. Syntézou rôznych existujúcich vizuálnych a zvukových súborov umelá inteligencia vytvára falošný vizuálny alebo zvukový obsah, ktorý je v niektorých prípadoch bez použitia špecializovaného softvéru len ťažko odlíšiteľný od reality. Môže tak vytvoriť presvedčivý dojem, že daný obsah je reálny.“ Slovenským ekvivalentom pojmu deepfake je „vysoko falošný obsah“.
Kvalitné deepfake nahrávky dokážu s úžasnou presnosťou manipulovať audiovizuálny obsah, ktorý imituje tváre, hlasy a činy nič netušiacich osôb, čím sa stiera hranica medzi autenticitou a klamstvom. Znepokojujúcim je najmä ľahká dostupnosť a tempo, akým sa táto technológia rozvíja. Dôsledky vývoja sa prejavujú v rôznych oblastiach, od zábavy až po národnú bezpečnosť a politiku. Deepfake technológia môže byť prospešná napríklad pre služby, filmový a celkovo zábavný priemysel, no zároveň je ľahko zneužiteľná na podvodné účely. O deepfake nahrávkach sa často hovorí najmä v súvislosti s rozširovaním falošného pornografického obsahu, dezinformácií či ekonomických podvodoch.
Najväčším rizikom teda je, že sa ľahko manipulovateľným stalo nie len to, čo čítame, ale aj to, čo vidíme alebo počujeme.
Prezidentské voľby 2024
Centrum boja proti hybridným hrozbám MV SR vyzýva na ostražitosť pred falošným obsahom v súvislosti s nadchádzajúcimi prezidentskými voľbami 2024. Zvýšte v tomto období ostražitosť pri práci s informáciami týkajúcich sa volebných procesov. Prax ukázala, že sa podvodné a falošné informácie, vrátane deepfake nahrávok, stávajú súčasťou pokusov o predvolebnú manipuláciu. Je preto dôležité, aby mali občania prístup k spoľahlivým zdrojom informácií.
Deepfake a integrita volebného procesu
O tejto problematike hovorí aj Európska služba pre vonkajšiu činnosť, ktorá vo svojej druhej Správe o hrozbách manipulácie s informáciami a zasahovaní zo zahraničia spomína práve využívanie umelej inteligencie na generovanie podvodného a manipulatívneho obsahu. V súvislosti s voľbami následne uvádza rozširovanie deepake videí ako jeden z trendov digitálneho zasahovania, ktorý sa stáva čoraz viac relevantným. V správe sa uvádzajú viaceré príklady audio a audiovizuálnych generovaných nahrávok, ktoré imitovali prejavy politických predstaviteľov. Okrem príkladov z Moldavska a Spojeného kráľovstva sa explicitne uvádza deepfake zvuková nahrávka rozhovoru medzi predsedom jednej zo slovenských politických strán a novinárkou, podľa ktorej malo dôjsť k manipulácií slovenských parlamentných volieb 2023.
Správu EEAS o hrozbách manipulácie s informáciami a zasahovaní zo zahraničia nájdete tu.
Na túto nahrávku upozornila aj Analýza šírenia klamlivého a zavádzajúceho obsahu súvisiaceho s voľbami od Centra boja proti hybridným hrozbám MV SR. Cieľom falošnej nahrávky bolo okrem očiernenia konkrétnej politickej strany aj spochybnenie transparentnosti a integrity parlamentných volieb. Pôvod nahrávky, jej autor, či čas, kedy bola vytvorená, sa nepodarilo identifikovať. Skutočnosť, že išlo o podvrh potvrdili aj viacerí experti.
Analýzu „Voľby 2023 a dezinformácie“ nájdete tu.
Ako zistím, či ide o deepfake?
1) Neverte automaticky všetkému čo vidíte a počujete v online priestore, venujte pozornosť dôveryhodnosti zdroja, snažte sa overovať si informácie z iných zdrojov najmä oficiálnych zdrojov.
2) Motiváciou tvorcov deepfake videí je často vyvolať emotívnu reakciu, zamerajte sa preto na obsah videa. Škandalózne, ťažko uveriteľné, protipólne alebo inak neočakávané vyhlásenia môžu nasvedčovať, že ide o deepfake.
3) Všímanie si nasledovných znakov vám môže pomôcť pri vyhodnocovaní pravosti videa:
– nezvyčajné pohyby tela a nezvyčajná mimika: najmä neprirodzené pohyby očí, žmurkanie, otváranie úst, prejavené emócie na tvári človeka nezodpovedajú hovorenému obsahu,
– neprirodzený robotický hlas, zvláštna výslovnosť a plynulosť prejavu, nesúlad pohybu pier s vyslovovaním slov,
– neprirodzená poloha a tvar jednotlivých častí tela a tváre, nepomer veľkosti hlavy k telu,
– nezvyčajný farebný odtieň pokožky, nesúlad sfarbenia tváre a tela osoby,
– neprirodzené osvetlenie na videu, vrhanie tieňov nezodpovedá polohe a smeru osvetlenia a pod.
Viac informácií od NBÚ nájdete tu.
Nižšie nájdete odkazy na subjekty, ktoré poskytujú overené informácie v súvislosti s volebným procesom:
Štátna komisia pre voľby a kontrolu financovania politických strán
Od pondelka, 18.3.2024 bude pre prvé kolo voľby prezidenta SR spustená infolinka, na ktorej budú voličom poskytované informácie súvisiace s uplatňovaním volebného práva. Dostupná bude na č. 02/4859 2317 a 02/4859 2312 v dňoch 18. – 22. marca 2024 od 7:30 h do 15:30 h a v deň volieb 23. marca 2024 od 7:00 h do 22:00 h.
Akékoľvek poznatky smerujúce k prípadom možného narušenia prípravy a priebehu prezidentských volieb, informácie o volebnej korupcii, či korupčnom správaní je potrebné bezodkladne oznámiť na najbližší útvar Policajného zboru SR, alebo na číslo 158.
V prípade, že na internete identifikujete podvodný obsah generovaný umelou inteligenciou týkajúci sa prezidentských volieb 2024, môžete nám zaslať podnet na hybrid@minv.sk
Tag: deepfake ,umelá inteligencia ,voľby