Nasz głos można sklonować nawet z niewielkiej próbki.

Użył AI do sfingowania porwania. Czy czeka nas fala oszustw?

Źródło zdjęć: © Canva
Marta Grzeszczuk,
19.04.2023 17:30

Nieznany sprawca sklonował głos dziecka za pomocą sztucznej inteligencji. Próbował wymusić okup na matce dziewczynki, która była w 100 proc. przekonana, że rozmawia z córką.

Jennifer DeStefano z Arizony odebrała telefon z nieznanego numeru i usłyszała płacz swojej córki - Brie. 15-latka powiedziała tylko: "mamo, narobiłam kłopotów" a słuchawkę przejął nieznajomy mężczyzna. Powiedział: "słuchaj, mam twoją córkę".

DeStefano opowiedziała lokalnej stacji telewizyjnej WKYT, że mężczyzna groził, że jeśli kobieta zawiadomi policję, ten nafaszeruje jej dziecko narkotykami. Zagroził, że skrzywdzi dziewczynkę i wywiezie ją do Meksyku. Początkowo żądał 1 mln dolarów okupu, ostatecznie zgodził się na 50 tys.

Matka cały czas słyszała w tle Brie płaczącą i proszącą "pomóż mi, mamo, proszę pomóż mi". Kobieta wyznała, że przez cały czas była absolutnie przekonana, że słyszy swoje dziecko: "To był zupełnie jej głos, jej intonacja, sposób w jaki płacze - ani przez sekundę nie miałam wątpliwości, że to właśnie ona".

Głos Brie został sklonowany za pomocą sztucznej inteligencji

Dopiero gdy przyjaciółce pani DeStefano udało się dodzwonić do jej byłego męża, okazało się, że dziewczynka jest bezpieczna. "Porwanie" było oszustwem, próbą wyłudzenia okupu. Przestępca sklonował głos Brie, używając ogólnie dostępnego w internecie oprogramowania opartego na sztucznej inteligencji. Nie ustalono jeszcze tożsamości mężczyzny.

Technologia generowania wiarygodnych wypowiedzi w oparciu nawet o drobne próbki głosu jest znana już od jakiegoś czasu. Używa się jej np. do replikowania głosu aktora Jamesa Earla Jonesa, który oryginalnie podkładał głos Dartha Vadera w "Gwiezdnych Wojnach". Pojawiają się też pomysły, żeby używać jej do tworzenia audiobooków, oszczędzając autorom godzin spędzanych na czytaniu na głos książek.

Oczywiście, jak każda nowa technologia, również ta będzie używana także do celów niemoralnych i przestępczych. Efekty deepfake, które można dzięki niej osiągnąć, podobnie jak w przypadku komputerowo tworzonych obrazów i video, w niepowołanych rękach będą rzeczywiście groźne.

Źródło: The Independent

Co o tym myślisz?
  • emoji serduszko - liczba głosów: 0
  • emoji ogień - liczba głosów: 0
  • emoji uśmiech - liczba głosów: 0
  • emoji smutek - liczba głosów: 1
  • emoji złość - liczba głosów: 0
  • emoji kupka - liczba głosów: 0