Deepfake a wybory. Jak nie dać się nabrać na sfałszowane informacje?

Wyborcy i wyborczynie z pokolenia Z swoją wiedzę o polityce lokalnej i międzynarodowej czerpią przede wszystkim z internetu. Wraz z rozpędzonym rozwojem generatywnej sztucznej inteligencji (GenAI), dużo łatwiejsze stało się tworzenie treści, które mimo że wyglądają na wiarygodne, nie są prawdziwe. "Deepfake" to materiał, który wykorzystuje GenAI do tworzenia lub modyfikowania treści wideo i audio, aby wyglądało na to, że dana osoba robi lub mówi rzeczy, których w rzeczywistości nie zrobiła i nie powiedziała. Termin jest połączeniem "deep learning" (ang. "głębokie uczenie się"), które jest modelem działania GenAI, i "fake", czyli "fałsz".

Materiały deepfake mogą być wykorzystywane do wielu groźnych celów. Od produkowania "nagich" zdjęć, zarówno celebrytów, jak i osób prywatnych czy nawet do prób wyłudzenia okupu za rzekomo porwanych członków rodziny. Technologia deepfake może też być wykorzystywana do manipulowania przemówieniami, wywiadami itd. w celu dezinformowania opinii publicznej. Najgłośniejsza w ostatnim czasie sprawa tego rodzaju miała miejsce w kontekście wyborów parlamentarnych w Słowacji.

48 godzin przed głosowaniem, którego wynik ważył się na szali, na Facebooku pojawiło się nagranie audio. Wyborcy i wyborczynie usłyszeli Michala Šimečkę, który przewodzi liberalnej partii Postępowa Słowacja, i Monikę Tódovą z dziennika "Denník N". Wydawało się, że dyskutują o tym, jak sfałszować wybory m.in. kupując głosy zmarginalizowanej mniejszości romskiej. Nagranie było deepfake'iem. Wybory wygrał Robert Fico, uważany za prorosyjskiego polityka i sojusznika Władimira Putina.

Marian Andrei, gospodarz i producent telewizyjnego programu "I Like IT", udzielił wywiadu dla stirileprotv.ro, partnera serwisu Vibez, o zagrożeniach ze strony deepfake w roku, w którym w wielu europejskich krajach odbywają się więcej niż jedne wybory. Andrei skomentował słowackie wybory parlamentarne: "Było to nagranie audio, ponieważ tego rodzaju deepfake'i są łatwiejsze do sfabrykowania i znacznie trudniejsze do wykrycia. Klip trafił do mediów społecznościowych w ciągu tych 48 godzin, kiedy politykom nie wolno komunikować się przed wyborami. Kandydat nie mógł wyjść i powiedzieć: 'hej, to nagranie jest fałszywe', ponieważ naruszyłby prawo wyborcze. Przegrał wybory o około sześć lub siedem procent, mimo że był faworytem sondaży".

Andrei ostrzegał, że "dzięki" GenAI stworzenie tego rodzaju materiałów stało się niezwykle proste. Nawet nie mając żadnego pojęcia o technologii. Powiedział: "Możesz kupić takie deepfake'i, są sprzedawane w darknecie, widziałem to. Nie kosztują dużo. Istnieją nawet kanały Telegram, gdzie można wysyłać filmy, które mają zostać skopiowane - wystarczy wyszukać je w Google. Niestety, to takie proste".

Ekspert radził, żeby z dużą nieufnością podchodzić zwłaszcza do tych nagrań video, które mają bardzo słabą rozdzielczość, a głos nie jest zsynchronizowany z ruchami twarzy. Jak wspomniał wcześniej, deepfake'i głosowe są trudniejsze do rozpoznania, zwłaszcza dla laików. Poza tym, GenAI jest coraz sprawniejsza, niedługo również wygenerowane filmy będą niezwykle trudne do odróżnienia od prawdziwych.

Andrei podkreślił, że jego zdaniem platformy, na których deepfake'i są rozpowszechniane, nie są zainteresowane ich weryfikowaniem i kontrolą. Powiedział: "nie widziałem żadnego deepfake'owego klipu, który pojawiłby się organicznie na moich kanałach. Wszystkie były filmami sponsorowanymi".

Dlatego Unia Europejska już w kwietniu planuje przyjęcie AI Act. Nowe przepisy będą regulować wszelkie zagadnienia związane ze skokowym rozwojem sztucznej inteligencji. Będą obowiązywać w pełni 24 miesiące po wejściu dyrektywy w życie. Niektóre części dyrektywy będą miały zastosowanie wcześniej, w tym obowiązek transparentności, który zacznie obowiązywać już rok po uchwaleniu AI Act.

W trakcie tegorocznych wyborów ważne jest więc, żebyśmy mieli świadomość, że należy podchodzić sceptycznie do sensacyjnych filmów, a zwłaszcza nagrań audio. Wszystkie znalezione w mediach społecznościowych informacje i materiały warto weryfikować w zaufanych źródłach informacji.

Źródło: stirileprotv.ro, europarl.europa.eu