DeepFake − zagrożenie, jakie niesie sztuczna inteligencja

Co to jest DeepFake? Połączenie fałszu ze sztuczną inteligencją

Nazwa Deepfake pochodzi od zbitki dwóch anglojęzycznych terminów – deep learning („głębokie uczenie”, gałąź technologii uczenia maszynowego) oraz fake, czyli „fałszywy”. 

Najprostszą odpowiedzią na pytanie co to jest DeepFake będzie to, że jest to technika obróbki obrazu, która polega na połączeniu ze sobą obrazów twarzy ludzkich przy użyciu sztucznej inteligencji.

W telegraficznym skrócie polega to na tym, że obraz twarzy jednej osoby nakładany jest na obraz twarzy innej osoby z uwzględnieniem jej mimiki oraz ruchów ciała. Technologia ta pojawiła się w 2017 roku wraz z opublikowaniem filmów pornograficznych, w których twarze aktorek zostały podmienione na twarze celebrytek. m.in. Gal Gadot, Maisie Willliams i Taylor Swift.

Od tamtej pory, wraz z rozwojem tej technologii, lawinowo przyrasta ilość DeepFaków w internecie. Przypadki użycia DeepFake można podzielić w ramach celu, który przyświeca twórcom danego filmiku:

• rozrywkowe – mają rozbawić widownie, dotyczą z reguły postaci fikcyjnych znanych z popkultury,
• edukacyjne – wykorzystywane m.in. do krzewienia informacji dotyczących zagrożeń, które niesie ze sobą technologia DeepFake,
• dezinformacyjne – fake newsy, mają za zadanie wprowadzać odbiorców w błąd,
• dyskredytujące – mają za zadanie ośmieszyć lub skompromitować określone osoby, lub organizacje. 

Sztuczna inteligencja i manipulacja obrazem idą ze sobą doskonale w parze. Dlatego też technologia DeepFake, nieustannie rozwijają się i dzisiaj pomału obcowanie z jej wytworami w internecie staje się naszą codziennością. 

Wystarczy spojrzeć na to jak sztuczna inteligencja w wyszukiwarce Google czy Bing zaczyna być implementowana i jak zaczyna pomału zmieniać obraz tego jak wyszukujemy rzeczy w internecie.

Wpływ DeepFake na bezpieczeństwo w internecie

Błyskawiczny rozwój sztucznej inteligencji pozwala zakładać, że produkcje wideo wykorzystujące technologię DeepFake wkrótce staną się niemożliwe do odróżnienia od materiałów rzeczywistych. 

Wpływ DeepFake na bezpieczeństwo na poziomie globalnym, międzynarodowym jak i pojedynczych jednostek może być olbrzymi. Technologia ta może zostać wykorzystana m.in.:

• w kwestiach politycznych, wykorzystanie wizerunku polityków do kreowania fake newsów może doprowadzić do skandali dyplomatycznych oraz wzrostu napięć między państwami. W skrajnych wypadkach może dojść np. do wypowiedzenia wojny lub zapowiedzi wykorzystania broni masowego rażenia;
• DeepFake może przyczynić się również do szerzenia dezinformacji i chaosu w tym do manipulowania opinią publiczną lub propagowaniu nieprawdziwych informacji wśród społeczności, wykorzystując do tego wizerunek uznawanych autorytetów naukowych;
• do 2019 roku 96% filmów wykorzystujących technologię DeepFake zawierało treści pornograficzne. Powstał szereg aplikacji wykorzystujących tę technologię, które mogą być wykorzystywane bez wiedzy i zgody ofiar do generowania treści pornograficznych z ich udziałem; 
• treści generowane przy pomocy technologii DeepFake mogą być wykorzystywane do szantażu, wyłudzeń, niszczenia reputacji i naruszania dóbr osobistych. 

Jak widzisz więc etyczne aspekty DeepFake i wykorzystania tej technologii rodzą wiele kontrowersji. Technologia DeepFake może być wykorzystana bowiem w celach komercyjnych, nie łamiąc przy tym norm etycznych. Przykładem może być wykorzystanie wizerunku zmarłych podczas realizacji nagrań do nowego filmu aktorów. 

Wykorzystanie technologii DeepFake do tego, aby dokończyć film i tym samym nie zmarnować kapitału wykorzystanego do jego nakręcenia, jednocześnie oddając hołd zmarłemu aktorowi przy jednoczesnej zgodzie spadkobierców jego wizerunku, zdaje się nie wzbudzać kontrowersji natury etycznej. Niemniej jednak, jak w przypadku każdej technologii – w niewłaściwych rękach, DeepFake może wyrządzić wiele krzywd i stanowi realne niebezpieczeństwo dla nas wszystkich. 

Przypadki użycia DeepFake

Przypadki użycia DeepFake w przestrzeni publicznej są coraz częstsze i również coraz częściej wykorzystywane są do szerzenia dezinformacji lub wyłudzeń. Technologia DeepFake nie pozostaje również obojętna na brand safty Twojej marki, w końcu może zostać wykorzystana nie tylko do dyskredytowania osób, ale również całych firm i związanych z nimi brandów. 

Dezinformacja za pomocą sztucznej inteligencji

Przykładów prób szerzenia dezinformacji przy pomocy technologii DeepFake nie trzeba szukać daleko. W trakcie konfliktu Rosji oraz Ukrainy technologia ta wykorzystywana jest nader często. 

Pierwszym przykładem DeepFake’a użycia w trakcie konfliktu był opublikowany w marcu 2022 roku filmik, na którym fikcyjny prezydent Ukrainy ogłaszał kapitulacje. W tym przypadku słaba jakość nagrania ewidentnie wskazująca na nieprawdziwość nagrania oraz edukacja i wyczulenie społeczeństwa na tego typu próby manipulacji sprawiła, że filmiku nikt nie potraktował poważnie. 

DeepFake w nieodpowiednich rękach osób o złych intencjach może być wykorzystywany do szerzenia nieprawdziwych informacji oraz manipulowania opinią społeczną. Nawet słabe jakościowo nagrania mogą być niebezpieczne i wyrządzić nieodwracalne szkody w społeczeństwach. 

Wideo wygenerowane przy pomocy technologii DeepFake może dyskredytować polityków, niszczyć fortuny zbudowane przez wpływowych biznesmenów, a może nawet wywoływać konflikty. Dlatego też umiejętność krytycznego myślenia i selekcji informacji jest w dzisiejszych czasach kluczową umiejętnością.

Wyłudzenia na wnuczka, policjanta i sztuczną inteligencję

Wyobraź sobie, że dzwoni do Ciebie Twój znajomy. Prosi Cię o przesłanie kilkunastu złotych, ale nie za pomocą aplikacji bankowej, ale poprzez kliknięcie linku, który przesyła w wiadomości. 

Problem w tym, że przez telefon trudno jest zobaczyć to jak ktoś wygląda, ale przynajmniej słyszysz głos, który nijak ma się do tego jak brzmi Twój znajomy. Co jednak gdyby połączenie oprócz dźwięku zawierałoby również obraz video, na którym rozpoznałbyś swojego znajomego, a głos w głośniku Twojego telefonu brzmiałby dokładnie tak jak głos Twojego znajomego? 

Z DeepFake taki scenariusz jest możliwy. Przy pomocy dzisiejszej technologii wystarczy tylko kilkanaście sekund nagrania mowy, aby pomyślnie skopiować i wygenerować bota mówiącego głosem dowolnej osoby na świecie. 

Wystarczy więc tak naprawdę kilkunastosekundowy filmik z wakacji, na którym widać i słychać Cię lub dowolną osobę z Twojego kręgu znajomych, lub rodziny, aby wykorzystać to nagranie do podjęcia próby wyłudzenia lub szantażu. 

Prawo a DeepFake 

Niestety prawo z reguły nie nadąża za dynamicznie zmieniającym się światem i technologiom. Chociaż polskie prawo nie ma zapisów dotyczących wykorzystania dokładnie technologii DeepFake, jej wykorzystanie może zostać podciągnięte pod naruszenie dóbr osobistych poprzez spreparowanie zdjęcia, filmu lub nagrania głosu zgodnie z Kodeksem Cywilnym. 

Dodatkowo jeżeli nagrania takie zostaną wykorzystane do popełnienia przestępstwa takiego jak oszustwo, wyłudzenie lub szantaż odpowiednie organy mogą wszcząć postępowanie, aby ukarać sprawców na drodze postępowania karno-sądowego. 

Rozpoznawanie DeepFake, czyli jak radzić sobie z fake newsami

Wraz z rozwojem sztucznej inteligencji rozpoznawanie DeepFake może stawać się coraz trudniejsze. Niemniej jednak istnieje kilka wskazówek, którymi warto kierować się gdy natrafimy na podejrzane treści w internecie. 

Treść nagrania

W pierwszej kolejności zwróć uwagę na treść nagrania. Twój zdrowy rozsądek oraz ogólna wiedza o otaczającym Cię świecie może okazać się pomocna przy wykrywaniu zmanipulowanych nagrań. 

Jeżeli treść nagrania i słowa padające z niego są niewiarygodne lub nie pasują do konkretnej osoby, która zdaje się przemawiać na filmiku, możesz zacząć podejrzewać, że do czynienia masz z DeepFakem, a nie rzeczywistym nagraniem.

Nienaturalne ruchy i mimika na filmie

Sztuczna inteligencja i manipulacja obrazem to stosunkowo nowe połączenie. Dlatego też technologia ta jeszcze niekoniecznie dobrze radzi sobie ze skomplikowaną mimiką i odwzorowaniem mikroekspresji takimi jak drgnięcia ust, mrugnięcia czy ruchy związane z poruszaniem głową. 

Jeszcze większe problemy technologia DeepFake ma z odwzorowaniem ruchów dłoni , palców itd. dlatego najczęściej wykorzystywane są filmiki, w których pojawia się wyłącznie tułów wraz z głową. 

Jeżeli uważnie przyjrzysz się DeepFakom zauważysz punktowe rozmycia na twarzy lub na jej krawędziach. Pomocne w ich zauważeniu może okazać się bardzo powolne odtwarzanie filmu, np. klatka po klatce. Pomocne tutaj okazać się może bezpłatne narzędzie watchframebyframe.com. 

Jak DeepFake zmieni marketing?

Technologia DeepFake bez wątpienia wpłynie na to jak wygląda świat dookoła nas. Miejmy nadzieje jednak, że nie poprzez to jak wykorzystywana będzie przez nieodpowiednie osoby do działalności przestępczej lub nawet terrorystycznej. 

DeepFake może również zrobić wiele dobrego np. w świecie marketingu internetowego. 

Przykładem może być reklama mająca na celu szerzenie świadomości na temat malarii z wykorzystaniem wizerunku Davida Beckhama mówiącego w dziewięciu językach, jest fantastycznym przykładem na to jak technologia DeepFake może być wykorzystana w dobrym celu, aby zwiększyć zasięg kampanii reklamowej.

Jak widzisz AI w komunikacji marki w połączeniu z przetłumaczeniem treści wykorzystywanych w marketingu Twojej firmy, może być z powodzeniem wykorzystywana do ułatwienia ekspansji międzynarodowej Twojej marki, poprzez wygenerowanie filmików, na których występująca w nich osoba mówi w kilku językach swoim naturalnym głosem. 

Kolejnym zastosowaniem technologii może być branża eventowa lub artystyczna. Na ten przykład w Dali Museum w Petersburgu goście witani są przez samego Salvadora Dali, którego wizerunek stworzony został właśnie przy pomocy technologii DeepFake oraz ponad 6 tysiącom klatek pochodzących z nagranych wywiadów z malarzem. 

Dodatkowo postać malarza jest interaktywna, a samo video posiada ponad 190 tysięcy możliwych reakcji zależących od tego, w jaki sposób na powitanie zareagują wchodzący do muzeum goście. 

Podsumowanie

Technologia DeepFake z pewnością jest tą, o której można powiedzieć, że ma swoją jasną oraz ciemną stronę. 

Z powodzeniem może zostać ona wykorzystana zarówno w marketingu jak i branżach eventowych czy jako forma sztuki. Niemniej jednak w nieodpowiednich rękach w równie łatwy sposób może stać się bronią masowej dezinformacji. 

Wraz z rozwojem tej technologii możemy spodziewać się tego, że zacznie za nią nadganiać prawo, które w jakiś sposób ureguluje dostęp do tej technologii lub zasady jej wykorzystania. 

Niemniej jednak, czy w przypadku tego typu rozwiązań, z których korzystać może każdy we własnym domowym zaciszu można mówić o stuprocentowej ochronie prawnej przed niewłaściwym jej wykorzystaniem? Wydaje się, że nie i DeepFake nieubłaganie będzie rozwijał się dalej, stając się pomału coraz to większym zagrożeniem.