Lista najpopularniejszych oszustw Deepfake.
Zacznijmy od tego „specjalnego” przemówienia „POTUSA” Joe Bidena:
Przypomina to trochę to, jak może wyglądać głębokie fałszywe oszustwo (głosowe). Właściwie to było darmowe Narzędzie do klonowania głosu AIi spędziłem nieco ponad pięć minut na pisaniu (za pomocą ChatGPT) i wklejaniu tekstu, aby przekształcić go w mowę (Bidena).
Jednak głębokie fałszywe oszustwa są bardziej wyrafinowane. Aby rozpocząć, wystarczy kilka wysokiej jakości zdjęć, filmów lub nagrań audio obiektu (ofiary) i wydajna karta graficzna.
Ale nie jesteśmy tutaj, aby dyskutować o tym, jak tworzyć filmy typu deepfake. Nie chodzi tu również o wykrywanie deepfakes.
Zamiast tego w tym artykule znajduje się krótkie wprowadzenie na temat deepfakes i wspomina kilka takich oszustw, na które powinieneś się wystrzegać.
Spis treści:
Czym są Deepfakes?
Deepfake łączy w sobie dwa terminy: Deep (od głębokiego uczenia się, które służy do ich tworzenia) i fake (wskazujący na charakter wyniku).
Krótko mówiąc, algorytmy głębokiego uczenia się służą do tworzenia przekonujących obrazów, treści audio lub wideo z oryginalnych treści o wysokiej rozdzielczości.
To klasyczny przykład deepfake’a, który wydaje się w pewnym stopniu skuteczny. Mimo to ma już pięć lat, a technologia rozwija się w szybkim tempie.
I nie zawsze ma to na celu zabawę lub pokazanie czyichś umiejętności AI. Jednym z takich poważnych przypadków jest sytuacja, gdy „Mr. Wołodymyr Zełenski” zostaje poproszony przez swoje siły o poddanie się w toku Wojna rosyjsko-ukraińska.
Niestety, to nie jest jeden taki przypadek. Zgodnie z Raport Regula Forensics 202337% organizacji na całym świecie spotkało się z oszustwami głosowymi Deepfake, 29% doświadczyło oszustw związanych z syntetycznymi wideo, a 46% doświadczyło prób kradzieży tożsamości.
W związku z tym nie chodzi tylko o rozrywkę, a deepfake jest szeroko stosowany w rozpowszechnianiu dezinformacji i jest niewłaściwie wykorzystywany na mnóstwo innych sposobów, co może być niebezpieczne i niepokojące dla ofiar.
Poza tym zwalczanie treści typu deepfake nie jest łatwe. Są to skutki uboczne znacznego postępu w technologii AI i faktu, że narzędzia tego typu są obecnie powszechnie dostępne do użytku publicznego.
Dlatego największą i najczęstszą obroną, jaką mamy, jest świadomość.
Popracujmy więc nad tymi aspektami i przyjrzyjmy się rodzajom oszustw typu deepfake.
Rodzaje oszustw typu Deepfake
W zależności od treści i celu oszustwa typu deepfake można podzielić na kilka form, takich jak:
- Podszywanie się pod wideo
- Fałszywe wywiady
- Fałszywe wiadomości
- Oszustwo głosowe
- Łapanie miodu
- Wsparcie klienta
- Referencje
Dalsze sekcje omawiają je szczegółowo i niektóre ich modyfikacje.
Podszywanie się pod wideo
Jest to dobrze znane oszustwo typu deepfake, w ramach którego widzimy wymyślony film, który ogólnie przypomina znany cel. Typową ofiarą może być prezydent kraju (jak deepfake Obamy), popularna gwiazda Hollywood lub dyrektor generalny znanej firmy.
Tym, co czyni ich łatwym celem, jest publiczna dostępność ich zdjęć, przemówień itp., ponieważ narzędzia do tworzenia fałszywych filmów typu deepfake dobrze sprawdzają się przy odmiennych danych wejściowych, przedstawiających różne zakresy emocji, kąty twarzy, warunki oświetleniowe, tła i nie tylko.
Celem takiego podszywania się może być zwykła zabawa, próba szantażu, motywacja polityczna, zniesławienie lub cokolwiek innego.
W rzadkich przypadkach można zobaczyć fałszywe filmy przedstawiające członków rodziny proszących o pieniądze lub dostęp do cennych rzeczy.
Fałszywe wywiady
Nie trzeba dodawać, że fałszywe wywiady wykorzystujące technologię deepfake mają na celu całkowicie zdalne stanowiska pracy z domu. Oszustwa te wykorzystują fałszywe filmy wideo w czasie rzeczywistym za pośrednictwem programów konferencyjnych, takich jak Zoom.
Oprócz pozyskania kiepskiego kandydata firma docelowa ryzykuje ujawnieniem swoich aktywów nieuczciwej osobie. A sądząc po działaniach firmy, może to nie tylko zaszkodzić ich własnym zasobom, ale może również zagrozić interesom ich kraju.
Prostszym celem fałszywych wywiadów może być zarabianie w walutach o dużej wartości.
Z drugiej strony oszuści mogą pobierać od niewinnych kandydatów opłatę za rozmowę kwalifikacyjną, aby nakłonić ich do przedostania się przed „potentatami branży” w celu zdobycia jednej szansy na wymarzoną pracę.
Fałszywe wiadomości
Najczęstszym oszustwem typu deepfake są fałszywe wiadomości. Takie internetowe kampanie dezinformacyjne stwarzają ryzyko, które może okazać się śmiertelne w trudnych sytuacjach, takich jak zamieszki czy wojny.
Co więcej, może oczernić osoby publiczne, gdy ich fałszywa replika zamieszcza komentarze, których nigdy nie robiły w rzeczywistości.
Propagandzie pomagają media społecznościowe i platformy streamingowe, takie jak YouTube, które pomagają takim fałszywym wiadomościom rozprzestrzeniać się błyskawicznie. Wreszcie tworzy atmosferę, w której zwykli użytkownicy są zdezorientowani co do autentyczności wszystkiego, co widzą.
Oszustwo głosowe
Podobnie jak w przypadku fałszywych filmów i obrazów, głos syntetyczny to kolejny element, który dodaje się do listy takich sztuczek opartych na technologii.
W jednym z takich przypadków Jennifer DeStefano, mieszkanka Arizony, usłyszała, jak jej 15-letnia córka łka przez telefon, podczas gdy męski głos żądał 1 miliona dolarów za uwolnienie. Matka była przekonana, że jej dziecku grozi niebezpieczeństwo. Zanim zdążyła przemyśleć płatność, ich znajoma zadzwoniła do męża, potwierdzając, że jej córka jest bezpieczna.
Pani DeStefano opowiedziała później o tym doświadczeniu, że całkowicie uwierzyła temu głosowi, nie tylko ze względu na jego brzmienie, ale także na ogólny przekaz tonalny, który dokładnie odpowiadał sposobowi, w jaki zwykle mówi jej córka.
Jest to klonowanie głosu, które odbywa się za pomocą surowych próbek audio ze źródła.
Pułapki miodu
Zgodnie z tradycyjną definicją pułapki miodu mamy do czynienia z namawianiem podmiotu do nawiązania kontaktu w celu wyłudzenia poufnych informacji. Honeypułapki są zwykle skierowane do podmiotów o wysokim statusie, takich jak ktoś pracujący w siłach zbrojnych, najwyżsi urzędnicy rządowi, politycy obsługujący itp.
Dzięki technologii deepfake te pułapki miodowe są przeważnie dostępne w Internecie i każdy może je wykonać na dużą skalę. Oznacza to, że ofiara może otrzymywać za pośrednictwem mediów społecznościowych prośby o nawiązanie relacji od atrakcyjnych partnerów, które szybko stają się intymne, a ostatecznym celem jest wymuszenie finansowe lub informacyjne.
Tego rodzaju oszustwa typu deepfake są na ogół pożądanymi operacjami, które przebiegają zgodnie z planem, zanim zastawią ostateczną pułapkę.
Obsługa klienta
Oszustwa związane z pomocą techniczną są bardzo powszechne. Być może słyszałeś o oszustwach, w których jakiś facet od „Microsoftu” prosi Cię o zapłatę za rozwiązanie „poważnych” problemów z komputerem.
Przed deepfake ich akcent lub nietypowe wzorce mowy zdradzały złośliwe próby. Ale teraz ci oszuści mają supermoce sztucznej inteligencji, które mogą z łatwością oszukać niewinnych użytkowników, aby myśleli, że w rzeczywistości rozmawiają z jakimś legalnym przedstawicielem firmy.
Referencje
Wielu z nas czyta opinie klientów przed zakupem jakiegokolwiek produktu. Podobnie sprawdzanie recenzji wideo to kolejny nawyk zakupowy, który do tej pory okazał się pomocny.
W przypadku tego rodzaju oszustwa typu deepfake wiele osób będzie ręczyć za zły produkt, wpływając na decyzje zakupowe oraz marnując pieniądze i czas klientów.
Jest ich o wiele więcej!
Co widzisz w Internecie poza tekstem?
Powiedziałbym, że wideo, obrazy i dźwięk. Tym wszystkim można manipulować za pomocą technologii sztucznej inteligencji, co w niedalekiej przyszłości sprawi, że Internet stanie się wylęgarnią oszustw. Ponadto tworzenie deepfake’ów staje się coraz prostsze, co sprawia, że przeciętnemu użytkownikowi Internetu trudno jest uzyskać „poprawne” informacje.
W takiej sytuacji, gdy prawie nic nie jest w stanie powstrzymać powszechnego niewłaściwego wykorzystywania technologii, powinniśmy przynajmniej starać się być na bieżąco.
PS: Jeśli chodzi o zabawne aplikacje, masz te aplikacje deepfake, które pozwalają tworzyć jedne z najlepszych memów, które szturmem podbijają media społecznościowe.