Deepfake a wybory. Jak nie dać się nabrać na sfałszowane informacje?
Deepfake stał się narzędziem powszechnie dostępnym. W jaki sposób wpłynął na wynik zeszłorocznych wyborów w Słowacji? Jak możemy się bronić przed zalewem sfabrykowanych filmów, zdjęć i nagrań audio?
Wyborcy i wyborczynie z pokolenia Z swoją wiedzę o polityce lokalnej i międzynarodowej czerpią przede wszystkim z internetu. Wraz z rozpędzonym rozwojem generatywnej sztucznej inteligencji (GenAI), dużo łatwiejsze stało się tworzenie treści, które mimo że wyglądają na wiarygodne, nie są prawdziwe. "Deepfake" to materiał, który wykorzystuje GenAI do tworzenia lub modyfikowania treści wideo i audio, aby wyglądało na to, że dana osoba robi lub mówi rzeczy, których w rzeczywistości nie zrobiła i nie powiedziała. Termin jest połączeniem "deep learning" (ang. "głębokie uczenie się"), które jest modelem działania GenAI, i "fake", czyli "fałsz".
Podobne
- Papież ostrzega przed AI. "Nie możemy stracić kontroli"
- Ziobro uderza w Tuska AI. "Nie on to mówi, ale on to będzie robił"
- Megan Thee Stallion reaguje na deefake. Dała upust emocjom
- Mieli "wywrócić stolik" elitom, a obeszli się smakiem. Politolożka o Konfederacji [WYWIAD]
- Sztuczna inteligencja a game industry
Nagrania deepfake wyglądaj coraz bardziej wiarygodnie
Materiały deepfake mogą być wykorzystywane do wielu groźnych celów. Od produkowania "nagich" zdjęć, zarówno celebrytów, jak i osób prywatnych czy nawet do prób wyłudzenia okupu za rzekomo porwanych członków rodziny. Technologia deepfake może też być wykorzystywana do manipulowania przemówieniami, wywiadami itd. w celu dezinformowania opinii publicznej. Najgłośniejsza w ostatnim czasie sprawa tego rodzaju miała miejsce w kontekście wyborów parlamentarnych w Słowacji.
Deepfake miał wpływ na wynik wyborów w Słowacji?
48 godzin przed głosowaniem, którego wynik ważył się na szali, na Facebooku pojawiło się nagranie audio. Wyborcy i wyborczynie usłyszeli Michala Šimečkę, który przewodzi liberalnej partii Postępowa Słowacja, i Monikę Tódovą z dziennika "Denník N". Wydawało się, że dyskutują o tym, jak sfałszować wybory m.in. kupując głosy zmarginalizowanej mniejszości romskiej. Nagranie było deepfake'iem. Wybory wygrał Robert Fico, uważany za prorosyjskiego polityka i sojusznika Władimira Putina.
Marian Andrei, gospodarz i producent telewizyjnego programu "I Like IT", udzielił wywiadu dla stirileprotv.ro, partnera serwisu Vibez, o zagrożeniach ze strony deepfake w roku, w którym w wielu europejskich krajach odbywają się więcej niż jedne wybory. Andrei skomentował słowackie wybory parlamentarne: "Było to nagranie audio, ponieważ tego rodzaju deepfake'i są łatwiejsze do sfabrykowania i znacznie trudniejsze do wykrycia. Klip trafił do mediów społecznościowych w ciągu tych 48 godzin, kiedy politykom nie wolno komunikować się przed wyborami. Kandydat nie mógł wyjść i powiedzieć: 'hej, to nagranie jest fałszywe', ponieważ naruszyłby prawo wyborcze. Przegrał wybory o około sześć lub siedem procent, mimo że był faworytem sondaży".
Andrei ostrzegał, że "dzięki" GenAI stworzenie tego rodzaju materiałów stało się niezwykle proste. Nawet nie mając żadnego pojęcia o technologii. Powiedział: "Możesz kupić takie deepfake'i, są sprzedawane w darknecie, widziałem to. Nie kosztują dużo. Istnieją nawet kanały Telegram, gdzie można wysyłać filmy, które mają zostać skopiowane - wystarczy wyszukać je w Google. Niestety, to takie proste".
Jak unikać zagrożeń związanych z GenAI?
Ekspert radził, żeby z dużą nieufnością podchodzić zwłaszcza do tych nagrań video, które mają bardzo słabą rozdzielczość, a głos nie jest zsynchronizowany z ruchami twarzy. Jak wspomniał wcześniej, deepfake'i głosowe są trudniejsze do rozpoznania, zwłaszcza dla laików. Poza tym, GenAI jest coraz sprawniejsza, niedługo również wygenerowane filmy będą niezwykle trudne do odróżnienia od prawdziwych.
Andrei podkreślił, że jego zdaniem platformy, na których deepfake'i są rozpowszechniane, nie są zainteresowane ich weryfikowaniem i kontrolą. Powiedział: "nie widziałem żadnego deepfake'owego klipu, który pojawiłby się organicznie na moich kanałach. Wszystkie były filmami sponsorowanymi".
Dlatego Unia Europejska już w kwietniu planuje przyjęcie AI Act. Nowe przepisy będą regulować wszelkie zagadnienia związane ze skokowym rozwojem sztucznej inteligencji. Będą obowiązywać w pełni 24 miesiące po wejściu dyrektywy w życie. Niektóre części dyrektywy będą miały zastosowanie wcześniej, w tym obowiązek transparentności, który zacznie obowiązywać już rok po uchwaleniu AI Act.
W trakcie tegorocznych wyborów ważne jest więc, żebyśmy mieli świadomość, że należy podchodzić sceptycznie do sensacyjnych filmów, a zwłaszcza nagrań audio. Wszystkie znalezione w mediach społecznościowych informacje i materiały warto weryfikować w zaufanych źródłach informacji.
Źródło: stirileprotv.ro, europarl.europa.eu
Popularne
- Bracia Menendez wyjdą na wolność? Córka Erika przerywa milczenie
- Oddany fandom Julii Żugaj. Na czym polega fenomen dziewczyny?
- Nastoletnia Julia popełniła samobójstwo. Jej oprawczyni nagrała "przeprosiny"
- Wege knajpa w Gdańsku serwuje "stek" z drukarki 3D. W menu mają też inne "mięsa"
- Wódka w saszetkach już w polskich sklepach. Zdjęcie obiegło sieć
- Beyoncé i Jay-Z tracą obserwatorów. Ludzie wierzą w teorie spiskowe
- Budda oburzony zachowaniem dziecka. "To przegięcie pały"
- Upadek Człowieka Lodu? Wim Hof latami skrywał tajemnicę
- Zatrzymanie P. Diddy'ego. Co łączy rapera z Justinem Bieberem?