Użył AI do sfingowania porwania. Czy czeka nas fala oszustw?
Nieznany sprawca sklonował głos dziecka za pomocą sztucznej inteligencji. Próbował wymusić okup na matce dziewczynki, która była w 100 proc. przekonana, że rozmawia z córką.
Jennifer DeStefano z Arizony odebrała telefon z nieznanego numeru i usłyszała płacz swojej córki - Brie. 15-latka powiedziała tylko: "mamo, narobiłam kłopotów" a słuchawkę przejął nieznajomy mężczyzna. Powiedział: "słuchaj, mam twoją córkę".
Podobne
DeStefano opowiedziała lokalnej stacji telewizyjnej WKYT, że mężczyzna groził, że jeśli kobieta zawiadomi policję, ten nafaszeruje jej dziecko narkotykami. Zagroził, że skrzywdzi dziewczynkę i wywiezie ją do Meksyku. Początkowo żądał 1 mln dolarów okupu, ostatecznie zgodził się na 50 tys.
Matka cały czas słyszała w tle Brie płaczącą i proszącą "pomóż mi, mamo, proszę pomóż mi". Kobieta wyznała, że przez cały czas była absolutnie przekonana, że słyszy swoje dziecko: "To był zupełnie jej głos, jej intonacja, sposób w jaki płacze - ani przez sekundę nie miałam wątpliwości, że to właśnie ona".
Głos Brie został sklonowany za pomocą sztucznej inteligencji
Dopiero gdy przyjaciółce pani DeStefano udało się dodzwonić do jej byłego męża, okazało się, że dziewczynka jest bezpieczna. "Porwanie" było oszustwem, próbą wyłudzenia okupu. Przestępca sklonował głos Brie, używając ogólnie dostępnego w internecie oprogramowania opartego na sztucznej inteligencji. Nie ustalono jeszcze tożsamości mężczyzny.
Technologia generowania wiarygodnych wypowiedzi w oparciu nawet o drobne próbki głosu jest znana już od jakiegoś czasu. Używa się jej np. do replikowania głosu aktora Jamesa Earla Jonesa, który oryginalnie podkładał głos Dartha Vadera w "Gwiezdnych Wojnach". Pojawiają się też pomysły, żeby używać jej do tworzenia audiobooków, oszczędzając autorom godzin spędzanych na czytaniu na głos książek.
Oczywiście, jak każda nowa technologia, również ta będzie używana także do celów niemoralnych i przestępczych. Efekty deepfake, które można dzięki niej osiągnąć, podobnie jak w przypadku komputerowo tworzonych obrazów i video, w niepowołanych rękach będą rzeczywiście groźne.
Źródło: The Independent
Popularne
- "Koszmarna lalka" z Polski podbija TikToka. Ma tylko 17 lat
- Oskar Szafarowicz wspiera Zbigniewa Ziobro. Internauci bezlitośni
- "MUALA". Książulo wygrał w sądzie z samorządowcem
- Zwolniona ze szkoły za rapowanie. Dzieci wspierają nauczycielkę
- Oskar Szafarowicz o Donaldzie Tusku. "Nasze Słońce Narodu"
- Poważne problemy Najjjki. Katoinfluencerka przegrała proces
- Chce wyglądać jak demon. Ten tata kocha modyfikacje ciała
- Duża zmiana dla uczniów? Barbara Nowacka apeluje do szkół
- Porażka Kai Godek. Finał głośnej sprawy w Sądzie Najwyższym