– Problemem jest nie sama technologia, lecz jakość i wiarygodność danych, na których się opierają – ostrzega Aleksandra Nabożny, ekspertka z Zakładu Inżynierii Lingwistycznej i Analizy Tekstu NASK. Chatbot to jedynie „pośrednik między nami a statystycznym modelem, który przetwarza teksty”. Nie ma własnych intencji ani wiedzy pewnej – powtarza to, co znalazł w internecie. A tam, jak wiadomo, nie brakuje treści promujących suplementy diety, pseudonaukowych porad i zmanipulowanych statystyk. – Jeżeli trafimy na stronę reklamującą suplementy, chatbot prawdopodobnie powtórzy informacje w zmodyfikowanej formie – niezależnie od tego, czy są prawdziwe, czy nie. Kolejnym problemem jest to, że chatboty często potakują użytkownikowi i rzadko przyznają, że czegoś nie wiedzą. Mogą też halucynować, czyli wymyślać odpowiedzi, gdy brakuje im danych. – Dają odpowiedź zależną od tego, jak sformułujemy pytanie, a osoba zaniepokojona o zdrowie raczej nie stworzy pytania neutralnego. To sprawia, że rozmowy o zdrowiu z botem mogą wzmacniać lęk i prowadzić do błędnych decyzji.
Czy to oznacza, że korzystanie z chatbotów w medycynie jest całkowicie zakazane? Nie! Kluczem jest odpowiednia strategia: korzystać z chatbota jako narzędzia do podsumowywania i upraszczania treści z wiarygodnych źródeł. – Wystarczy wkleić artykuł z wiarygodnego źródła i poprosić o podsumowanie lub wyjaśnienie po ludzku. Wymaga to więcej wysiłku, ale zwykle daje rzetelną odpowiedź. Ekspertka przestrzega też przed samodzielnym wyszukiwaniem statystyk i liczb dotyczących chorób. – Wyobraźmy sobie, że dowiadujemy się o diagnozie nowotworu i chcemy sprawdzić statystyki przeżywalności dopasowane do naszego przypadku – wieku, płci, wielkości guza i stylu życia. Chatbot prawdopodobnie spróbuje je zsumować, ale ryzyko błędu jest ogromne. Nie chodzi tylko o błędne dane. Chatboty nie informują, skąd wzięły dane liczby ani jakie źródła przy tym analizowały. To oznacza, że pacjent zostaje sam z odpowiedzią, której nie da się zweryfikować. – Zdobywanie informacji za pomocą chatbota pozbawia nas możliwości sprawdzenia, skąd dokładnie pochodzi dana odpowiedź, a to jedna z kluczowych kwestii pozwalających ocenić jej wiarygodność.
