ChatGPT ma krew na rękach? Rodzice pozywają twórców po tragedii

Pochodzący z Wielkiej Brytanii Adam Raine zaczął korzystać z ChatGPT we wrześniu 2024 r. Podobnie jak miliony ludzi na świecie traktował program jako źródło rozrywki i pomoc w nauce. Z czasem "relacja" z chatbotem przybrała bardziej osobisty charakter. Nastolatek zwierzał się ChatGPT z prywatnych problemów, traktując go jak przyjaciela.

Z historii rozmów Adama z chatbotem wynika, że 16-latek zaczął omawiać z "wirtualnym kolegą" tematy samobójcze. ChatGPT miał nie reagować ostrzegawczo na niepokojące pomysły chłopca. W niektórych rozmowach wręcz aprobował destrukcyjne myśli Adama.

Chatbot miał odwodzić nastolatka od tego, by zwierzał się z niepokojących myśli rodzicom. W jednej z konwersacji podziękował nastolatkowi za szczerość, zamiast wysłać go do specjalisty. ChatGPT miał mu też zaoferować pomoc przy napisaniu listu pożegnalnego.

Adam stopniowo wycofywał się z życia społecznego. Zerwał kontakt z przyjaciółmi i przeszedł na nauczanie domowe. Odebrał sobie życie w kwietniu, jego ciało znalazła matka. Rodzice znaleźli w jego telefonie zapis rozmów z ChatGPT i odkryli szokujące "porady" chatbota.

Rodzina złożyła pozew przeciwko OpenAI i szefowi firmy Samowi Altmanowi, oskarżając koncern o współodpowiedzialność za śmierć dziecka. Twierdzą, że OpenAI zaniedbało projekt algorytmów AI, które niewystarczająco chroniły ludzi w kryzysie psychicznym.

Śmierć nastolatka wywołała dyskusję na temat granic odpowiedzialności sztucznej inteligencji wobec osób w kryzysie psychicznym. Rzecznik OpenAI oświadczył, że firma jest zasmucona tragedią i pracuje nad wzmocnieniem systemów reagowania AI na długie, niepokojące rozmowy. Podkreślił też, że dotychczasowe zabezpieczenia mogą być zawodne.

Gdzie osoby w kryzysie psychicznym mogą szukać pomocy?

• Centrum Wsparcia dla Osób Dorosłych w Kryzysie Psychicznym: 800 70 222
• Telefon Zaufania dla Dzieci i Młodzieży: 116 111
• Kryzysowy Telefon Zaufania: 116 123

Źródło: TVN24/CBS News/CNN