Rozpoznawanie deepfake’ów to zadanie, które z każdym dniem staje się coraz trudniejsze. Technologia, jak wiemy, ma dwie strony medalu – niesie ze sobą zarówno postęp, jak i potencjalne zagrożenia. Sztuczna inteligencja, która w przeszłości mogła wydawać się elementem poezji, teraz manifestuje się jako namacalna rzeczywistość, a deepfake są tego przykładem.
Deepfake to zaawansowana forma manipulacji medialnej, pozwalająca na kreowanie niezwykle realistycznych filmów, obrazów i nagrań audio. Granica między prawdą a fałszem zaciera się tak bardzo, że odróżnienie deepfake od autentycznych materiałów często przekracza ludzkie możliwości.
Czym właściwie są deepfake’i?
Ujmując rzecz najprościej, deepfake’i to sztucznie wygenerowane media, stworzone przy użyciu specjalistycznych aplikacji dostępnych na komputerach i smartfonach. Algorytmy tych aplikacji pozwalają na zastępowanie elementów oryginalnego materiału innymi, imitując rzeczywistość w sposób zaskakująco przekonujący.
Celem deepfake’ów jest najczęściej oszukiwanie lub dostarczanie rozrywki poprzez manipulację syntetycznymi mediami. Jeszcze jakiś czas temu stworzenie tak realistycznych materiałów wideo było nie lada wyzwaniem, dziś wystarczy odpowiednio mocna karta graficzna i kilka dni pracy.
Choć stworzenie przekonującego deepfake wymaga czegoś więcej niż tylko techniki – doskonałej imitacji głosu, mimiki i gestykulacji – to proces ten staje się coraz prostszy, a algorytmy zyskują na efektywności, działając sprawnie zarówno na zaawansowanych, jak i słabszych konfiguracjach sprzętowych. Niestety, musimy liczyć się z tym, że deepfake’ów będzie przybywać.
Świadomość potencjalnych niebezpieczeństw wynikających z nadużyć tych technologii sprawia, że musimy być bardzo czujni, aby odróżniać deepfake’i od autentycznych nagrań.
Jak skutecznie wykrywać deepfake’i?
Nie każdy deepfake jest taki sam, dlatego uniwersalna metoda detekcji nie istnieje. Niektóre z nich zdradzają swoje sztuczne pochodzenie charakterystycznymi cechami, inne z kolei wymagają uważnej analizy, a nawet zastosowania zaawansowanych narzędzi sztucznej inteligencji.
Odcień skóry
Pierwszym elementem, który powinien zwrócić naszą uwagę, jest odcień skóry. W deepfake’ach często „przerobiona” część (zazwyczaj twarz) może nieznacznie różnić się kolorem od reszty ciała, tworząc widoczny dysonans.
Powyższy przykład przedstawia fragment fałszywego wideo z prezydentem Ukrainy, Wołodymyrem Zełenskim, nakłaniającym do kapitulacji przed Rosją. Nieudolne wklejenie twarzy od razu zdradziło fałszerstwo.
Mimika twarzy
To kolejna pułapka, w którą wpadają twórcy deepfake’ów, zwłaszcza ci mniej doświadczeni. Słabej jakości deepfake’i charakteryzują się nienaturalnym ruchem warg, pozbawionym typowych dla ludzi przerw, co od razu alarmuje o fałszerstwie.
Chociaż zaawansowane algorytmy uwzględniają przerwy w oddychaniu, warto zwracać uwagę na powtarzające się, mechaniczne ruchy głowy, które odbiegają od naturalnego zachowania człowieka. Podobnie sytuacja ma się z mruganiem. Często jest ono zbyt regularne i przewidywalne, w przeciwieństwie do ludzkiego, spontanicznego mrugania.
Innym elementem, na który warto zwrócić uwagę, jest ruch gałek ocznych. Sztuczna inteligencja, pozbawiona emocji i rozproszeń, ma tendencję do utrzymywania nadmiernej koncentracji wzroku, co jest nietypowe dla człowieka.
Podsumowując, większość deepfake’ów jest stosunkowo łatwa do wykrycia, chyba że są wykonane z niemal perfekcyjną dbałością o szczegóły.
Niedoskonałości
Jak więc stwierdzić, czy mamy do czynienia z prawdziwym Morganem Freemanem, czy jego cyfrowym klonem?
Jakość wideo odgrywa tutaj kluczową rolę. Dostępność najwyższej rozdzielczości, na przykład 4K, zwiększa szansę na wykrycie nieprawidłowości. Im większy ekran, tym lepiej, ale można również wykonać zrzut ekranu i go powiększyć w poszukiwaniu śladów manipulacji komputerowej.
Czy widzimy „przerobioną” skórę? To właśnie w tym miejscu algorytmy napotykają trudności, pomimo ich zaawansowania. Skóra w deepfake’ach często wygląda nienaturalnie, a włosy na twarzy i głowie sprawiają wrażenie „sklejonych”.
Przyjrzyjmy się bliżej:
Widzimy, że skóra jest nienaturalna, zwłaszcza w okolicach wąsów, brody i linii włosów. Porównując szczegóły takie jak podbródek, brwi, kształt twarzy i nos z prawdziwym zdjęciem danej osoby (po prawej stronie), łatwiej jest odróżnić fałszerstwo. Dysponowanie autentycznym materiałem wideo lub zdjęciem ułatwia identyfikację deepfake.
Szczegóły
Podczas rozmowy wiele się dzieje. Każdy ma swój unikalny styl, który wpływa na ruchy ust, języka, podbródka i policzków. Technologia deepfake wciąż nie potrafi perfekcyjnie odwzorować wnętrza jamy ustnej w trakcie mówienia. Na przykład, w deepfake’ach z udziałem Baracka Obamy nie widać pojedynczych dolnych zębów. Zamiast tego widzimy jedynie biały pasek, bez żadnych śladów ruchu języka.
Oglądając autentyczne nagrania Obamy, można zauważyć jego wyrazistą mimikę twarzy, która jest znacznie bogatsza niż ta prezentowana w deepfake’ach. Ponadto, jakość samego wideo często pozostawia wiele do życzenia. Zdarza się, że jest ono celowo kompresowane, aby ukryć niedoskonałości lub ograniczenia techniczne.
Przejścia
Ograniczeniem w tworzeniu deepfake’ów jest generowanie ich klatka po klatce. Każda klatka musi być precyzyjnie dopasowana, aby iluzja była wiarygodna. Dlatego najczęściej deepfake’i prezentują twarze w pozycji frontalnej. Unika się ujęć z boku, ponieważ przejścia między ujęciami mogą zdradzić słabe strony technologii.
Przyjrzyjmy się deepfake’owi z Tomem Cruisem:
Odtwarzając wideo w zwolnionym tempie, np. od 35 do 40 sekundy, można dostrzec, że przejścia między ujęciami z boku na przód są rozmyte. Te miejsca stanowią najtrudniejszy element do zatuszowania, a zarazem są kluczowe do wykrycia fałszerstwa.
Oto kilka wskazówek, które pomogą Ci w identyfikacji deepfake’ów:
1. Zwracaj uwagę na różnice w odcieniu skóry.
2. Analizuj naturalność synchronizacji ust, mrugania oraz innych ruchów twarzy.
3. Powiększ obraz, aby ocenić teksturę skóry i włosów.
4. Porównaj mimikę i styl mówienia z autentycznymi nagraniami danej osoby.
5. Sprawdź, czy dostępne są materiały w wyższej rozdzielczości.
6. Wykorzystaj wyszukiwarkę Google, aby sprawdzić, czy dany materiał nie jest już oznaczony jako fałszywy.
7. Zwróć uwagę na proporcje twarzy.
8. Odtwarzaj wideo w zwolnionym tempie, aby wychwycić niedoskonałości w przejściach.
9. Oceń, czy wnętrze jamy ustnej wygląda realistycznie i szczegółowo.
10. W przypadku wątpliwości, poproś o opinię znajomych lub rodzinę.
Deepfake nie jest idealny!
Powyższe wskazówki dotyczą deepfake’ów wideo, ale podobne zasady mają zastosowanie do analizy dźwięków generowanych przez sztuczną inteligencję. Technologia rozwija się w zawrotnym tempie, ale ludzkie cechy są wciąż niezwykle trudne do perfekcyjnego skopiowania. Warto jednak pogłębiać wiedzę na temat tej technologii i uczyć się jej rozpoznawania.
Jeśli chcesz poznać tajniki tworzenia deepfake’ów, polecamy zapoznać się z naszym przewodnikiem, który wyjaśnia, czym są deepfake’i i jak powstają.