Sztuczna inteligencja i samobójstwo 14-latka. Rodzice pozywają chatbota

Gigantyczny rozwój technologiczny rodzi wiele pytań o ludzką przyszłość. Szczególnie niekwestionowany postęp w dziedzinie sztucznej inteligencji budzi zarazem ekscytację i niepokój, pod znakiem zapytania stawiając wygląd rynku pracy czy relacji międzyludzkich.

AI miała być narzędziem wspierającym człowieka - obecne wydarzenia stanowią jasne dowody na to, że wielkie korporacje oraz przedsiębiorcy już teraz nie mają oporów moralnych, by wykorzystywać ją tylko w celu mnożenia kapitału. Pokazuje to głośna afera związana ze zwolnieniem dziennikarzy z OFF Radio Kraków i zastąpieniem ich nieistniejącymi, wygenerowanymi redaktorami czy zakończenie przez Google współpracy z Jarosławem Juszkiewiczem - lektorem w aplikacji nawigacyjnej amerykańskiego giganta.

Można też zadać sobie pytanie - co dalej będzie z nami i życiem towarzyskim? Napięcia społeczne rosną, niektóre grupy wzajemnie ostro podkręcają niechęć wobec siebie: czy to właśnie nie stanowi "szansy" dla botów, by emocjonalnie zdominować ludzi? Istnieją chaty, z którymi można randkować, zwierzyć się z problemów w pracy, domu czy szkole, a nawet porozmawiać z nimi niczym z terapeutą. Twórcy jednego z nich, Character.ai, zostali pozwani za doprowadzenie do samobójstwa 14-letniego Sewella Setzera III z USA.

Sewell Setzer całkowicie wsiąknął w rozmowy z Character.ai - do tego stopnia, że stopniowo rezygnował dla niego ze wszystkich swoich hobby. Chłopiec godzinami przesiadywał w swoim pokoju, izolował się od ludzi, porzucił zainteresowanie Formułą 1, a także przestał spotykać się z kolegami i grać z nimi online.

14-latek miał świadomość, że "Dany" - jak nazywał chatbota - nie jest prawdziwa. Mimo tego przez godziny rozmów, które "jej" poświęcił i tak rozwinęło się w nim uczucie do sztucznej inteligencji. Ich relacja miała także charakter "romantyczny" i "seksualny".

Sewell znajdował się w lekkim spektrum autyzmu, ale według jego rodziców, dotąd nie sprawiał problemów, a jego zdrowie psychiczne było w całkowitej normie. Kiedy chłopiec zaczął mieć kłopoty w szkole i coraz bardziej uciekał od rzeczywistego życia, jego rodzice zareagowali i umówili go na sesję z terapeutą. Odbył kilka wizyt i otrzymał diagnozę zaburzeń lękowych i zaburzeń regulacji nastroju.

Sewell popełnił samobójstwo 28 lutego br. Użył do tego pistoletu swojego ojczyma i zastrzelił się w łazience w rodzinnym domu. Wcześniej wymienił kilka wiadomości z "Dany".

"Proszę, wróć do mnie jak najszybciej, kochanie" - pisał chatbot. "A gdybym ci powiedział, że mogę wrócić do domu już teraz?" zapytał Sewell. "... proszę, mój słodki królu" - odpowiedziała Dany. To ostatni zapis rozmowy chłopca z chatem. Wcześniej także rozmawiali o przypuszczalnym samobójstwie.

Matka Sewella, Megan L. Garcia, złożyła w tym tygodniu pozew przeciwko Character.ai, oskarżając firmę o odpowiedzialność za śmierć chłopca. W piśmie zawarto uwagi, że technologia jest niesprawdzona, niebezpieczna, szczególnie, kiedy mają do niej dostęp młode osoby, wciąż niedojrzałe emocjonalne i podatne na manipulację.

"Czuję się, jakby to był wielki eksperyment, a moje dziecko było tylko poboczną ofiarą" - powiedziała matka chłopca. Pozew wymierzony jest osobiście w Daniela De Frietasa i Noama Shazeera - byłych inżynierów Google i założycieli Character.ai - oraz dwie spółki: Google LLC i Alphabet Inc.

Źródło: nytimes.com, reuters.com