Użył AI do sfingowania porwania. Czy czeka nas fala oszustw?
Nieznany sprawca sklonował głos dziecka za pomocą sztucznej inteligencji. Próbował wymusić okup na matce dziewczynki, która była w 100 proc. przekonana, że rozmawia z córką.
Jennifer DeStefano z Arizony odebrała telefon z nieznanego numeru i usłyszała płacz swojej córki - Brie. 15-latka powiedziała tylko: "mamo, narobiłam kłopotów" a słuchawkę przejął nieznajomy mężczyzna. Powiedział: "słuchaj, mam twoją córkę".
Podobne
DeStefano opowiedziała lokalnej stacji telewizyjnej WKYT, że mężczyzna groził, że jeśli kobieta zawiadomi policję, ten nafaszeruje jej dziecko narkotykami. Zagroził, że skrzywdzi dziewczynkę i wywiezie ją do Meksyku. Początkowo żądał 1 mln dolarów okupu, ostatecznie zgodził się na 50 tys.
Matka cały czas słyszała w tle Brie płaczącą i proszącą "pomóż mi, mamo, proszę pomóż mi". Kobieta wyznała, że przez cały czas była absolutnie przekonana, że słyszy swoje dziecko: "To był zupełnie jej głos, jej intonacja, sposób w jaki płacze - ani przez sekundę nie miałam wątpliwości, że to właśnie ona".
Głos Brie został sklonowany za pomocą sztucznej inteligencji
Dopiero gdy przyjaciółce pani DeStefano udało się dodzwonić do jej byłego męża, okazało się, że dziewczynka jest bezpieczna. "Porwanie" było oszustwem, próbą wyłudzenia okupu. Przestępca sklonował głos Brie, używając ogólnie dostępnego w internecie oprogramowania opartego na sztucznej inteligencji. Nie ustalono jeszcze tożsamości mężczyzny.
Technologia generowania wiarygodnych wypowiedzi w oparciu nawet o drobne próbki głosu jest znana już od jakiegoś czasu. Używa się jej np. do replikowania głosu aktora Jamesa Earla Jonesa, który oryginalnie podkładał głos Dartha Vadera w "Gwiezdnych Wojnach". Pojawiają się też pomysły, żeby używać jej do tworzenia audiobooków, oszczędzając autorom godzin spędzanych na czytaniu na głos książek.
Oczywiście, jak każda nowa technologia, również ta będzie używana także do celów niemoralnych i przestępczych. Efekty deepfake, które można dzięki niej osiągnąć, podobnie jak w przypadku komputerowo tworzonych obrazów i video, w niepowołanych rękach będą rzeczywiście groźne.
Źródło: The Independent
Popularne
- W sklepach pojawiło się malinowe masło. Czy to może być dobre?
- "Zakaz wnoszenia bagażu niezależnie od rozmiaru". UOKiK stawia zarzuty Live Nation.
- Wojtek Gola wie, kiedy IShowSpeed zjawi się w Polsce? "Pokażmy, że Polska górom"
- Bagi wystąpi w "Tańcu z gwiazdami"? Spokojnie, Wojtek Kucina go wkręci
- Kim jest dziewczyna Marcina Dubiela? Arkadiusz Tańcula ciągnie go za język
- Książulo spróbował drożdżówkę za 59 zł. Warto wydać tyle pieniędzy?
- Afera o dom FAZY. Friz załatwił dziewczynom łazienkę bez rolet
- Krzysztof Gonciarz wrócił do Polski jak bohater? Na lotnisku witali go widzowie
- Kuba Paniczko zakłada swoją własną grupę? "Rozpoczęły się pobory"