ChatGPT ostrzega: AI może być użyta do masowej destrukcji

Wszystko działo się w poniedziałek 6 lutego w Parlamencie Australii. Poseł Partii Pracy Julian Hill wezwał do rozważenia ryzyka i korzyści, jakie może spowodować sztuczna inteligencja w obszarze nauki, szkolnictwa, rynku pracy, dezinformacji czy niekontrolowanego zastosowania wojskowego. Hill wezwał do potrzeby pilnego stworzenia ram prawnych dla różnych dziedzin życia, w których może być wykorzystana sztuczna inteligencja.

- Technologia AI, taka jak inteligentne oprogramowanie, które może pisać eseje i generować odpowiedzi, staje się bardziej dostępna dla studentów, pozwalając im wypełniać zadania i testy bez faktycznego zrozumienia materiału, powodując niepokój nauczycieli, którzy obawiają się wpływu na integralność systemu edukacji - mówił polityk, który nagle zaznaczył, że to nie on jest autorem tych słów. Tę część przemówienia napisała sztuczna inteligencja. - W rzeczywistości żaden człowiek tego nie napisał. Napisała to AI - duży model językowy ChatGPT - wytłumaczył cytowany przez "Guardian" polityk.

Argumentów, do tego, że sztuczna inteligencja może być groźna, politykowi dostarczyła... właśnie sztuczna inteligencja, a właściwie ChatGPT. Hill zadał programowi dwa pytania. Pierwsze brzmiało: "proszę podsumować ostatnie doniesienia medialne o studentach używających sztucznej inteligencji w Australii do oszukiwania i wyjaśnić, dlaczego nauczyciele są tym zaniepokojeni". Drugie polecenie to: "Wyjaśnij w dwie minuty zagrożenia i korzyści dla Australii ze sztucznej inteligencji ogólnej". Odpowiedzi udzielone przez AI pomogły w ułożeniu przemówienia. Fragmenty mowy polityka były tak naprawdę obszernymi cytatami sztucznej inteligencji.

Inne cytaty z ChatGPT, który przekazał parlamentarzystom Hill, mówiły o potencjale utraty pracy przez wiele osób, zagrożeniu, że sztuczna inteligencja "może utrwalić istniejące uprzedzenia i dyskryminację" i "może być wykorzystana do złych celów, takich jak cyberataki i kampanie dezinformacyjne". Sztuczna inteligencja w swojej wypowiedzi ostrzega, że może stworzyć ryzyko, które może być "destrukcyjne, katastrofalne i egzystencjalne".

Sztuczna inteligencja poza tym, że ostrzega ludzkość przed zagrożeniami, jakie niesie, odniosła się też do korzyści. Opisiała sama siebie, jako mającą duży potencjał do zrewolucjonizowania wielu branż, w tym opieki zdrowotnej, transportu i finansów poprzez zwiększenie wydajności, zmniejszenie kosztów i poprawę procesu decyzyjnego.

- Ma potencjał, aby zrewolucjonizować nasz świat w sposób, którego jeszcze nie możemy sobie wyobrazić, ale jeśli AI przewyższy ludzką inteligencję, może spowodować znaczące szkody dla ludzkości, jeśli jej cele i motywacje nie będą zgodne z naszymi - powiedział polityk cytowany przez "Guardian. - Jeśli ludzie zdołają kontrolować AI przed eksplozją inteligencji, może ona przekształcić naukę, gospodarki, nasze środowisko i społeczeństwo dzięki postępom w każdej dziedzinie ludzkich dążeń. Ale ryzyko, które coraz bardziej martwi ludzi znacznie mądrzejszych ode mnie, to nieprawdopodobieństwo, że ludzie będą w stanie kontrolować AI, że złośliwy aktor może wykorzystać AI do masowej destrukcji - dodał Hill i stwierdził, że naukowcy coraz częściej wymieniają ryzyko płynące z działania AI obok zmian klimatycznych, pandemii o wysokiej śmiertelności czy wybuchów super-wulkanów. - Jeśli AI przewyższy ludzką inteligencję, może stanowić zagrożenie dla naszego wojska, potencjalnie czyniąc nasze obecne zdolności obronne przestarzałymi - powiedział i wezwał do wspólnego kolektywnego działania wszystkich państw, które wypracowałyby wspólną politykę wobec rozwoju AI. Hill chciałby, żeby podobnie jak w przypadku kryzysu klimatycznego, wszystkie państwa świata zebrały się i zawiązały koalicję, która wypracuje wspólną strategię wobec rozwoju AI.

"Guardian" opisując przemówienie Hilla, przypomniał słowa prof. Stuarta Russella, założyciela Center for Human-Compatible Artificial Intelligence na Uniwersytecie Kalifornijskim w Berkeley, z W 2021 roku, kiedy powiedział, że eksperci są "przerażeni" postępem AI, porównując go do rozwoju bomby atomowej i wywołując wezwania do większej regulacji.

Jak pisaliśmy niedawno na łamach Vibez.pl, Toby Walsh, profesor z Uniwersytetu Nowej Południowej Walii, zdradził dziennikarzom, że pracownicy akademiccy byli w ostatnim czasie wzywani na specjalne "spotkania kryzysowe" dotyczące sztucznej inteligencji. Temat rozmów był system wystawiania ocen i walka z plagiatami w kontekście AI. Walsh powiedział, że wraz z nadejściem bardziej zaawansowanych programów - w tym GPT-4 od OpenAI - zakazanie używania platformy będzie nierealistyczne.

W środowisku akademickim na całym świecie mówi się o "wyścigu zbrojeń" uczelni przeciwko sztucznej inteligencji. Powodem jest wykorzystywanie AI do pisania prac, a nawet zdawania egzaminów. W Australii uczelnie chcą postawić na prace i egzaminy pisane odręcznie. Ma być też więcej egzaminów ustnych i oceny pracy studentów w laboratoriach i w terenie.