Deep Fakes: Nebezpečí nebo nevinná zábava?

V dnešní době máme k dispozici mnoho nástrojů, které nám usnadňují každodenní život. Pokud se však ocitnou v nesprávných rukou, mohou způsobit nemalé problémy. Mezi takové nástroje patří například technologie schopné vytvářet manipulativní obsah známý jako deepfakes.

Co jsou deepfakes? Jde o videa, fotky nebo zvuky vytvořené pomocí umělé inteligence, které vypadají velmi věrohodně, ale jsou falešné. Můžou například ukázat někoho, jak říká nebo dělá něco, co nikdy neřekl ani neudělal. Můžete se podívat na videa, která je dokazují.

Jak deepfakes vznikají?

Vytvořit deepfake video už dnes není složité. Na internetu existuje mnoho aplikací, které to umožňují. Stačí mít několik videí osoby, kterou chcete napodobit. Sofistikovanější software dokáže napodobit modely lidského chování a vytvořit velmi přesvědčivé deepfake video.

Jak rozpoznat deepfake?

I když jsou deepfakes často velmi přesvědčivé, lze je stále odhalit. Zaměřte se na detaily:

• Osoba na videu nemrká? 
• Chybí mimika ve tváři?
• Hýbou se vousy spolu s obličejem?
• Má osoba na videu správný počet prstů?
• Zní hlas přirozeně? 

Pokud vás něco z toho zaujme, zbystřete.

Proč jsou deepfakes nebezpečné?

Deepfakes představují riziko, protože lidé mají tendenci věřit tomu, co vidí na videu. Můžou být zneužity například během voleb, kde by mohly poškodit kandidáta těsně před hlasováním. Prokázání, že je video falešné, může trvat dlouho a náprava nemusí dosáhnout stejného publika jako původní fake.

Pozitivní využití deepfakes

Pozitivní využití deepfakes Ne všechna deepfake videa mají škodlivé úmysly. Mohou být využity ve vzdělávání nebo umění. Příkladem je projekt „Dalí Lives“, kde v muzeu na Floridě pomocí deepfake technologie „oživili“ malíře Salvadora Dalího, který komunikuje s návštěvníky.

Co s tím? 

Abychom se bránili proti deepfakes, vyvíjí se nástroje na jejich odhalování.  Na jejich ověřování se hodí třeba nástroj InVID. Aplikaci pro rozpoznávání upravených videí vyvinul i Microsoft.

Závěrem

Deepfake technologie má velký potenciál, ale zároveň představuje značná rizika. Je důležité zůstat obezřetní a ověřovat informace, které vidíme, aby se zabránilo šíření falešných zpráv a manipulativního obsahu.