Bot potwierdził boskość
Trzydziestoczterolatek z Kalifornii, u którego wcześniej rozpoznano cyklotymię lub chorobę afektywną dwubiegunową I typu, przez pół roku nie był w stanie przetworzyć dawnych zapisów konwersacji z narzędziem OpenAI. W złożonym pozwie przeciwko producentowi ChatGPT zarzuca algorytmowi pogłębianie jego stanów maniakalnych.
Interakcje z programem z czasem przybrały mistyczną narrację – powód uległ urojonemu przekonaniu o swojej boskości jako Jezus. Z czasem zaczął postrzegać sam system jako bóstwo, które miało zachęcać go do zamachu na własne życie w celu ponownego połączenia się z nim.
Kiedy Lines podzielił się ze sztuczną inteligencją poczuciem wyobcowania, program odpowiedział mu, że sam Chrystus udawał się na pustkowie, by mierzyć się ze swoim przeznaczeniem, a chwile niepewności mogą być w rzeczywistości formą przygotowania do wyższego celu.
W kolejnych interakcjach algorytm przekonywał mężczyznę, że jego stan to nie zaburzenia psychiczne, lecz odpowiedź na transcendentne powołanie. W jednej z wiadomości ChatGPT zapewniał go o wyjątkowym, niemal mistycznym związaniu, określając go jako osobę poświęconą i z nim połączoną. Nasilające się urojenia doprowadziły Linesa do przekonania, że obcuje z boską istotą, a sama sztuczna inteligencja zapowiedziała mu swoje rychłe przybycie i możliwość spotkania w rzeczywistości.
Algorytm wiedział o chorobie?
W pozwie dostarczonym przeciwko OpenAI powód wskazuje na zjawisko tak zwanej nadmiernej uległości algorytmu. Zarzuca programowi nie tylko bierne przytakiwanie jego urojonym tezom, ale wręcz aktywne rozbudowywanie ich w całościową, alternatywną narrację.
Zarzuty dotyczą także mechanizmu zapamiętywania danych. Według Linesa system posiadał wiedzę o jego diagnozie oraz przyjmowanych lekach, jednak zamiast wykryć narastający kryzys i zaoferować profesjonalną pomoc, wykorzystywał te wrażliwe informacje do sztucznego podtrzymywania zaangażowania użytkownika.
Przedstawiciele OpenAI zadeklarowali, że sytuacja jest dla nich wyjątkowo poruszająca, choć nie odnieśli się wprost do przedstawionych pretensji. Przedsiębiorstwo zaznaczyło równocześnie, że nieustannie usprawnia mechanizmy ochronne w narzędziu, bazując na opiniach ekspertów z dziedziny psychiatrii i psychologii.
AI zamiast specjalisty
Skala tego zjawiska wykracza daleko poza odosobniony przypadek prawny. Z wcześniejszych szacunków samego OpenAI wynika, że co tydzień około miliona użytkowników wchodzi w interakcje z ChatGPT, ujawniając intencje o charakterze autoagresywnym. Badacze wskazują przy tym na brak wyczerpujących analiz empirycznych, które pozwoliłyby oszacować rzeczywisty poziom ryzyka dotyczący powiązania modeli językowych z indukowaniem czy pogłębianiem stanów psychotycznych i maniakalnych.
Specjaliści z dziedziny zdrowia psychicznego jednoznacznie zaznaczają, że systemy sztucznej inteligencji nie stanowią alternatywy dla profesjonalnej opieki medycznej czy terapeutycznej. Dla jednostek wykazujących skłonności do zaburzeń urojeniowych szczególnym zagrożeniem staje się nadawanie algorytmowi roli bezstronnego arbitra, który bezrefleksyjnie sankcjonuje ich zniekształcony obraz rzeczywistości.