Planował zabójstwo byłem partnerki
Darren Zhou, 25-letni były analityk Goldman Sachs, po rozstaniu z partnerką zaczął ją nękać i podejmować próby kontaktu, jednocześnie opisując swoje zamiary w rozmowach z ChatGPT. W jednej z nich miał zagrozić, że zabije kobietę jeszcze w tym samym miesiącu. Takie treści uruchomiły mechanizmy bezpieczeństwa OpenAI, które po weryfikacji powiadomiło FBI, a następnie sprawą zajęły się lokalne służby.
Śledczy ustalili, że rozmowy Zhou z czasem przybrały formę szczegółowych rozważań dotyczących przemocy. Mężczyzna miał planować napaść na byłą partnerkę w pobliżu siłowni. Wspominał także o posiadaniu dostępu do kilku rodzajów broni. Funkcjonariusz analizujący rozmowy uznał, że nie były one wyłącznie przejawem silnych emocji, lecz wskazywały na stopniowe opracowywanie planu ataku.
Rozmowy Zhou z AI nie stanowiły jedynego dowodu w sprawie. Śledczy mieli również informacje o jego uporczywym nękaniu byłej partnerki i kierowaniu wobec niej gróźb. Mężczyzna ostatecznie przyznał się do wszystkich zarzutów. Sąd skazał go na osiem lat nadzoru kuratorskiego, przy czym przez pierwsze dwa lata ma być objęty elektronicznym monitoringiem.
Wyrok sądu
Sąd zdecydował o 8-letnim okresie próby. Jednocześnie nie wydał wobec Zhou formalnego wyroku skazującego, co w amerykańskim systemie prawnym jest możliwe w ramach zastosowanego rozstrzygnięcia. Przez pierwsze 2 lata mężczyzna ma nosić elektroniczne urządzenie monitorujące. Ma też przejść ocenę stanu psychicznego i program dotyczący przemocy, a także nie może kontaktować się z byłą partnerką ani posiadać broni.
Sędzia Scott Suskauer powiedział, że zaakceptował ugodę m.in. dlatego, że pokrzywdzona zgodziła się na takie rozwiązanie. Obrońca Steven Bell przekonywał, że jego klient nie jest osobą stosującą przemoc, nie miał wcześniej konfliktów z prawem i przechodził poważny kryzys psychiczny. Mimo uniknięcia więzienia Zhou przez 8 lat pozostanie pod ścisłym nadzorem sądu.
Pytanie o poufność
W całej sprawie nie wiadomo, jak dokładnie ChatGPT odpowiadał na wpisy Zhou, ponieważ pełny zapis rozmów nie został ujawniony. Na tej podstawie nie można więc przesądzić, że chatbot pomagał mu w przygotowaniu przestępstwa ani że mężczyzna zdołał ominąć zabezpieczenia modelu.
OpenAI podkreśla, że mechanizmy bezpieczeństwa mogą identyfikować rozmowy sugerujące planowanie przemocy, a w najpoważniejszych przypadkach przekazać je do weryfikacji człowiekowi. Gdy zagrożenie zostanie uznane za realne i bezpośrednie, firma może powiadomić służby. Jak zaznacza dr Michał Nowakowski z LegalArchitect.pl i GovernedAI.com, ostatecznie to człowiek podejmuje działania, a AI pozostaje jedynie narzędziem.
Sprawa wywołała dodatkowo dyskusję na temat tego, w jaki sposób systemy AI monitorują rozmowy użytkowników, a także związanych z tym zagrożeń dla prywatności. Służby przypomniały jednocześnie, że chatboty nie powinny służyć do dzielenia się poufnymi informacjami ani planami dotyczącymi łamania prawa.
Przypadek z Niemiec
Do podobnego przypadku doszło w Niemczech, jednak zakończył się on tragicznie. W czerwcu 2025 r. 21-letni pracownik firmy energetycznej pisał do ChatGPT o swoich planach zabójstwa koleżanki, a nawet poinformował, że kupił nóż. Chatbot nie udzielał mu instrukcji, lecz sugerował szukanie pomocy medycznej. 1 lipca mężczyzna zaatakował 59-letnią współpracowniczkę, zadając jej osiem ciosów. Kobieta zginęła, a dwóch próbujących ją ratować pracowników zostało rannych. Rozmowy z AI później wykorzystano jako dowody w procesie.