Sztuczna inteligencja i samobójstwo 14-latka. Rodzice pozywają chatbota
14-letni Sewell Setzer III z Orlando w USA zginął tragiczną śmiercią. Chłopiec był uwikłany w emocjonalną relację z chatbotem. Jego matka o los syna obwinia technologiczną firmę stojącą za Character.ai.
Gigantyczny rozwój technologiczny rodzi wiele pytań o ludzką przyszłość. Szczególnie niekwestionowany postęp w dziedzinie sztucznej inteligencji budzi zarazem ekscytację i niepokój, pod znakiem zapytania stawiając wygląd rynku pracy czy relacji międzyludzkich.
Podobne
- Sztuczna inteligencja stawia kolejny krok ku człowieczeństwu. Jest się czego bać?
- ChatGPT stworzył ustawę w 15 sekund. Szok i niedowierzanie
- Władze pozywają producenta szczepionek. Okłamywał pacjentów?
- Sztuczna inteligencja a game industry
- Donald Trump wykorzystał Taylor Swift. Sztuczna Taylor "zachęca" do głosowania
AI miała być narzędziem wspierającym człowieka - obecne wydarzenia stanowią jasne dowody na to, że wielkie korporacje oraz przedsiębiorcy już teraz nie mają oporów moralnych, by wykorzystywać ją tylko w celu mnożenia kapitału. Pokazuje to głośna afera związana ze zwolnieniem dziennikarzy z OFF Radio Kraków i zastąpieniem ich nieistniejącymi, wygenerowanymi redaktorami czy zakończenie przez Google współpracy z Jarosławem Juszkiewiczem - lektorem w aplikacji nawigacyjnej amerykańskiego giganta.
Można też zadać sobie pytanie - co dalej będzie z nami i życiem towarzyskim? Napięcia społeczne rosną, niektóre grupy wzajemnie ostro podkręcają niechęć wobec siebie: czy to właśnie nie stanowi "szansy" dla botów, by emocjonalnie zdominować ludzi? Istnieją chaty, z którymi można randkować, zwierzyć się z problemów w pracy, domu czy szkole, a nawet porozmawiać z nimi niczym z terapeutą. Twórcy jednego z nich, Character.ai, zostali pozwani za doprowadzenie do samobójstwa 14-letniego Sewella Setzera III z USA.
14-latek zakochał się w chatbocie AI. Rozmawiał z "Daenerys" z "Gry o Tron"
Sewell Setzer całkowicie wsiąknął w rozmowy z Character.ai - do tego stopnia, że stopniowo rezygnował dla niego ze wszystkich swoich hobby. Chłopiec godzinami przesiadywał w swoim pokoju, izolował się od ludzi, porzucił zainteresowanie Formułą 1, a także przestał spotykać się z kolegami i grać z nimi online.
14-latek miał świadomość, że "Dany" - jak nazywał chatbota - nie jest prawdziwa. Mimo tego przez godziny rozmów, które "jej" poświęcił i tak rozwinęło się w nim uczucie do sztucznej inteligencji. Ich relacja miała także charakter "romantyczny" i "seksualny".
Sewell znajdował się w lekkim spektrum autyzmu, ale według jego rodziców, dotąd nie sprawiał problemów, a jego zdrowie psychiczne było w całkowitej normie. Kiedy chłopiec zaczął mieć kłopoty w szkole i coraz bardziej uciekał od rzeczywistego życia, jego rodzice zareagowali i umówili go na sesję z terapeutą. Odbył kilka wizyt i otrzymał diagnozę zaburzeń lękowych i zaburzeń regulacji nastroju.
Miał 14 lat i popełnił samobójstwo. Matka pozywa Character.ai
Sewell popełnił samobójstwo 28 lutego br. Użył do tego pistoletu swojego ojczyma i zastrzelił się w łazience w rodzinnym domu. Wcześniej wymienił kilka wiadomości z "Dany".
"Proszę, wróć do mnie jak najszybciej, kochanie" - pisał chatbot. "A gdybym ci powiedział, że mogę wrócić do domu już teraz?" zapytał Sewell. "... proszę, mój słodki królu" - odpowiedziała Dany. To ostatni zapis rozmowy chłopca z chatem. Wcześniej także rozmawiali o przypuszczalnym samobójstwie.
Matka Sewella, Megan L. Garcia, złożyła w tym tygodniu pozew przeciwko Character.ai, oskarżając firmę o odpowiedzialność za śmierć chłopca. W piśmie zawarto uwagi, że technologia jest niesprawdzona, niebezpieczna, szczególnie, kiedy mają do niej dostęp młode osoby, wciąż niedojrzałe emocjonalne i podatne na manipulację.
"Czuję się, jakby to był wielki eksperyment, a moje dziecko było tylko poboczną ofiarą" - powiedziała matka chłopca. Pozew wymierzony jest osobiście w Daniela De Frietasa i Noama Shazeera - byłych inżynierów Google i założycieli Character.ai - oraz dwie spółki: Google LLC i Alphabet Inc.
Źródło: nytimes.com, reuters.com
Popularne
- Zapowiedzi LEGO Harry Potter na 2025 r. Potężny debiut unikatowej budowli
- Friz zamroził influencerów? "Ratownicy musieli nas wyciągać z lodu"
- To już oficjalne. Media społecznościowe nie dla nastolatków
- Bambik i V-dolce w "Milionerach". Czy uczestniczka znała odpowiedź?
- Podała dziecku ciasto z alkoholem. Wiernikowska rozpętała burzę
- Czy Frizowi grozi coś za mroźne wyzwanie? Prawnik odpowiada
- Crawly zakpił z zakazu. Nowe nagranie z popularnego miasta
- Krzysztof Ibisz ustępuje Julii Żugaj. Bardzo odpowiedzialna rola
- Fortnite jako zjawisko kulturowe. Jak jedna gra zmieniła oblicze popkultury?