Deepfake – jest to określenie służące nazwaniu techniki obróbki obrazu, polegającej na tworzeniu realistycznego obrazu ruchomego lub nieruchomego, który niemal identycznie naśladuje ten prawdziwy. W ten sposób można stworzyć film, na którym prawdziwy polityk wygłasza przemówienie, lecz taka sytuacja w rzeczywistości nigdy nie miała miejsca. Pojęcie deepfake pojawiło się po raz pierwszy w 2017 roku, a nazwę zaczerpnięto od pseudonimu użytkownika, który opublikował kilka filmów zrealizowanych przy użyciu technologii z wykorzystaniem wizerunków m.in. Taylor Swift. Za cel tworzenia deepfeków w pozytywnym świetle można uznać rozrywkę i edukację, gdyż może generować obraz zjawisk, które ludzkie oko nie może ujrzeć na co dzień. Jednak ciemna strona deepfeków to dezorientacja, manipulacja i kompromitacja pewnych osób lub zjawisk.
Przykłady Deepfake
29 września 2020 roku na jednym z popularnych mediów społecznościowych zostały opublikowane filmy, w których technologia wygenerowała wizerunek znanych polityków. Pierwszy z filmów naśladował przemówienie Władimira Putina, a drugi ukazywał wizerunek przemawiającego Kim Jong-Una. Oba nagrania, mimo że nieprawdziwe wyglądały na tyle realistycznie, aby część odbiorców uznała je za prawdziwe. Na szczęście filmy nie doprowadziły do kryzysu politycznego, a były wyreżyserowanym przez twórcę ostrzeżeniem dla społeczeństw demokratycznych, sugerującym, iż to nie reżimy stanowią zagrożenie dla demokracji, lecz nasze niewłaściwe działania mające miejsce podczas wyborów.
W grudniu 2020 roku sławę zyskało wygenerowane przez technologię deepfake wideo imitujący orędzie bożonarodzeniowe królowej Elżbiety II. Kilkuminutowy film przedstawia słowa i zachowania, których królowa nigdy by nie mogłaby publicznie zaprezentować. Opublikowane przez: “Channel 4” nagranie miało na celu uświadomienie społeczeństwu, jak łatwo jest nim manipulować za pomocą obecnej technologii.
Dzięki deepfake w 2019 roku wirtualnie przywrócono do życia artystę Salvadora Dali. Odbyło się to w amerykańskim muzeum – “The Dali Museum”. Nowa ekspozycja została nazwana „Dali żyje”. Poprzez ekran zwiedzający mogli porozmawiać z wizerunkiem artysty: fragmenty filmowe były odtwarzane w różnej kolejności, co przyczyniło się do stworzenia ponad 190 tysięcy kombinacji schematów przeprowadzenia rozmowy. Co więcej, na zakończenie dyskusji postać proponowała zrobienie wspólnego zdjęcia ze zwiedzającymi.
Pod koniec czerwca 2019 roku, rozgłos zyskała kontrowersyjna aplikacja internetowa, o nazwie “DeepNude”. Pozwalała użytkownikom na tworzenie realistycznych obrazów nagich kobiet za pomocą przesyłanych do aplikacji zdjęć prawdziwych osób. Mimo tego, że ciało postaci było wymyślone, twarz pozostawała prawdziwa. Upublicznienie takiego obrazu w sieci z pewnością, nawet jeśli sfałszowane, mogłoby zniszczyć życie ofierze procederu. Według dostępnych informacji aplikacja została zamknięta. Jednak rozwój technologii spowodował, iż powstało wiele stron oferujących podobną usługę.
Jakie zagrożenia przynosi technologia deppfake?
Technologia deepfake, mimo ogromnego potencjału, niesie ze sobą wiele zagrożeń. Wygenerowane treści mogą być wykorzystywane do tworzenia fałszywych informacji, co prowadzi do dezinformacji i chaosu. Może to negatywnie wpływać na zaufanie publiczne. Obywatele mogą mieć trudności z odróżnieniem materiałów prawdziwych od fałszywych. Deepfake również jest wykorzystywany do manipulacji opinią publiczną, na przykład poprzez fałszywe wypowiedzi osób publicznych oraz tworzenie nieprawdziwego ruchu społecznego. Ów technologia może prowadzić do naruszenia praw do wizerunku i prywatności. Może to również prowadzić do skompromitowania osoby poprzez np. fałszywe „obsadzenie jej” w roli w filmie pornograficznym lub wspomnianym powyżej retuszu zdjęć. Eksperci ostrzegają, że wysoce prawdopodobny jest fakt, iż deepfake stanie się nowym narzędziem do jeszcze bardziej wyszukanych cyberataków, oszustw i przestępstw finansowych.
Zakończenie
Aby zapobiec zagrożeniom związanym z technologią deepfake, należy zadbać o świadomość społeczną i edukację – zrozumienie, czym jest deepfake i jakie zagrożenia niesie, jest kluczowe. Zawsze warto sprawdzić wiarygodność informacji, zwłaszcza jeśli wydają się one nieprawdziwe lub szokujące.
Celem ochrony naszej prywatność, należy zastanowić się przed opublikowaniem treści osobistych. Nawet najbardziej niewinnie wyglądające treści mogą zostać wykorzystane bez naszej zgody do stworzenia deepfakeu.
Technologia deepfake jest narzędziem, które może być używane zarówno do dobrych, jak i złych celów. Kluczem jest odpowiedzialne korzystanie z tej technologii i ciągłe edukowanie się na temat jej możliwości i zagrożeń.
Bibliografia:
Deepfake Queen: 2020 Alternative Christmas Message
DeepNudeNow (DeepNude) – aplikacja do rozbierania
Zagrożenia związane z deepfake. Jak rozpoznać fałszywe treści?
Bezpiecznik.org 