Użył AI do sfingowania porwania. Czy czeka nas fala oszustw?

Jennifer DeStefano z Arizony odebrała telefon z nieznanego numeru i usłyszała płacz swojej córki - Brie. 15-latka powiedziała tylko: "mamo, narobiłam kłopotów" a słuchawkę przejął nieznajomy mężczyzna. Powiedział: "słuchaj, mam twoją córkę".

DeStefano opowiedziała lokalnej stacji telewizyjnej WKYT, że mężczyzna groził, że jeśli kobieta zawiadomi policję, ten nafaszeruje jej dziecko narkotykami. Zagroził, że skrzywdzi dziewczynkę i wywiezie ją do Meksyku. Początkowo żądał 1 mln dolarów okupu, ostatecznie zgodził się na 50 tys.

Matka cały czas słyszała w tle Brie płaczącą i proszącą "pomóż mi, mamo, proszę pomóż mi". Kobieta wyznała, że przez cały czas była absolutnie przekonana, że słyszy swoje dziecko: "To był zupełnie jej głos, jej intonacja, sposób w jaki płacze - ani przez sekundę nie miałam wątpliwości, że to właśnie ona".

Dopiero gdy przyjaciółce pani DeStefano udało się dodzwonić do jej byłego męża, okazało się, że dziewczynka jest bezpieczna. "Porwanie" było oszustwem, próbą wyłudzenia okupu. Przestępca sklonował głos Brie, używając ogólnie dostępnego w internecie oprogramowania opartego na sztucznej inteligencji. Nie ustalono jeszcze tożsamości mężczyzny.

Technologia generowania wiarygodnych wypowiedzi w oparciu nawet o drobne próbki głosu jest znana już od jakiegoś czasu. Używa się jej np. do replikowania głosu aktora Jamesa Earla Jonesa, który oryginalnie podkładał głos Dartha Vadera w "Gwiezdnych Wojnach". Pojawiają się też pomysły, żeby używać jej do tworzenia audiobooków, oszczędzając autorom godzin spędzanych na czytaniu na głos książek.

Oczywiście, jak każda nowa technologia, również ta będzie używana także do celów niemoralnych i przestępczych. Efekty deepfake, które można dzięki niej osiągnąć, podobnie jak w przypadku komputerowo tworzonych obrazów i video, w niepowołanych rękach będą rzeczywiście groźne.

Źródło: The Independent