"Ojciec chrzestny" AI odszedł z Google. Dlaczego boi się tej technologii?

75-letni dr Geoffrey Hinton zajmuje się sztuczną inteligencją od lat 70. Wraz z dwójką swoich współpracowników stworzył w 2012 r. na Uniwersytecie w Toronto pierwszą sieć neuronową potrafiącą rozpoznawać elementy na zdjęciach. Sieci neuronowe to matematyczne systemy, które przetwarzając ogromne ilości danych, są jednocześnie w stanie uczyć się ich kreatywnego przetwarzania.

Google kupiło firmę dr Hintona, dr Ilyi Sutskevera i dr Alexa Krishevskygo za 44 mln dolarów. Stworzona przez nich technologia, zaprzęgnięta do analizy ogromnej liczby tekstów, pozwoliła na stworzenie zaawansowanych chatbotów. Dr Sutskever jest jednym z założycieli i głównym naukowcem w firmie OpenAI, która stworzyła ChatGPT.

Naukowiec zakończył pod koniec kwietnia 10-letnią współpracę z Google. Jak powiedział w wywiadzie dla magazynu "The New York Times", jeszcze rok temu uważał, że Google odpowiedzialnie podchodzi do rozwoju sztucznej inteligencji. Odszedł z firmy, żeby mieć swobodę w ostrzeganiu przed konsekwencjami niekontrolowanego rozwoju sztucznej inteligencji.

Microsoft dodał chatbota do swojej przeglądarki Bing. Google, w obawie, że zagrozi to jego przewadze rynkowej, chce jak najszybciej zrobić to samo. Ten "wyścig na oślep" technologicznych gigantów może mieć niebezpieczne konsekwencje. Jeszcze kilka lat temu dr. Hinton uważał, że sieci neuronowe są przydatnymi narzędziami do uczenia maszyn, ale są jednocześnie dalece podrzędne w stosunku do możliwości ludzkiego umysłu. Dziś nie ma już tej pewności. Obawia się, że możliwości komputerów mogą przerosnąć ludzkie.

Największe zagrożenie na jakie wskazuje, to zalanie internetu potężnymi ilościami fałszywych tekstów, obrazów i video, których użytkownicy nie są w stanie odróżnić od rzeczywistych. Dr Hinton nie ma wątpliwości, że te możliwości będą używane również przez ludzi z jak najgorszymi intencjami. To już się dzieje, pisaliśmy o tym na łamach Vibez.pl.

Kolejną obawą naukowca jest to, jak powszechna dostępność sztucznej inteligencji zmieni rynek pracy. Już teraz zagrożone są miejsca pracy asystentów, tłumaczy, a nawet programistów. Zakres, w którym AI może z powodzeniem zastąpić człowieka, będzie się tylko poszerzał.

Z faktem, że modele językowe potrafią pisać i samodzielnie implementować kod, wiążą się obawy, co może się wydarzyć, jeśli "wpadną" w tym zakresie na jakiś nieprzewidywalny pomysł. Nie ma już na świecie instytucji, której podstawą działania nie jest oprogramowanie, w które AI może teoretycznie ingerować. A przetwarzając ogromne ilości danych AI, potrafi wykazywać "zachowania" zaskakujące, nieracjonalne czy wręcz niebezpieczne.

Dr Hinton uważa, że nie powinno się dalej rozwijać sztucznej inteligencji, dopóki nie zrozumiemy w pełni jak działa i do czego jest zdolna na obecnym etapie. Chciałby, żeby naukowcy opracowali systemy, które pozwolą na pełną kontrolę nad technologią.

Jak przyznaje w wywiadzie dla "The New York Times", jeszcze do niedawna pytany, jak może pracować nad tak niebezpieczną technologią, odpowiadał parafrazując Roberta Oppenheimera. Twórca technologii, która doprowadziła do stworzenia bomby atomowej, zwykł odpowiadać: "Gdy masz przed sobą technologicznie 'kuszące' zagadnienie, rozwiązujesz je i dopiero wtedy, kiedy osiągniesz technologiczny sukces dyskutujesz o tym co z nim zrobić". Dziś dr Hinton uważa, że nie była to właściwa postawa.