Czy ChatGPT może kłamać? Tak, i to nieświadomie

Przeczytaj także: AI trafiła pod strzechy: ChatGPT ma już 9,3 mln użytkowników

Czat GPT i dostęp do informacji z Internetu

ChatGPT, oparty na zaawansowanych modelach językowych rozwijanych przez OpenAI, zdobył ogromną popularność dzięki swojej zdolności prowadzenia naturalnych rozmów i wspierania użytkowników w wielu codziennych zadaniach. Potrafi pisać teksty, tłumaczyć, pomagać w nauce, tworzyć kod, a nawet wspierać procesy decyzyjne. Jedną z jego kluczowych cech – w najnowszych wersjach – jest możliwość korzystania z bieżących informacji dostępnych w Internecie.

To jednak, co dla wielu stanowi największy atut, niesie też konkretne ryzyka. ChatGPT nie odróżnia informacji prawdziwych od fałszywych – analizuje dane i generuje odpowiedzi na podstawie treści, które mogą pochodzić ze źródeł niesprawdzonych. Co więcej, nie zawsze wskazuje, skąd czerpie wiedzę. W efekcie, choć potrafi tworzyć logiczne i przekonujące odpowiedzi, mogą być one częściowo lub całkowicie błędne. Zjawisko to, określane mianem halucynacji AI, jest szczególnie niebezpieczne w kontekście profesjonalnym – gdy użytkownik oczekuje rzetelnych i wiarygodnych informacji.

Wystarczy, że w Internecie znajdą się błędne informacje, a model poda nam je w odpowiedzi. Brzmią one wiarygodnie, ale w rzeczywistości mogą wprowadzać w błąd – zaznacza Michał Gaszewski, CEO LEOLEX AI.

Ograniczenia i zagrożenia związane z modelami ogólnego zastosowania

ChatGPT nie jest narzędziem nieomylnym ani zaprojektowanym pod kątem jednej, konkretnej branży. Jego wiedza ma charakter probabilistyczny – model przewiduje najbardziej prawdopodobne kombinacje językowe, a nie fakty. W efekcie, w specjalistycznych dziedzinach, takich jak prawo, medycyna czy finanse, może prowadzić do błędnych interpretacji i ryzykownych wniosków.

Ryzyka obejmują m.in.:

• brak weryfikacji źródeł – model nie ocenia ich wiarygodności,
• brak aktualizacji w czasie rzeczywistym (poza wersjami z przeglądarką),
• brak specjalizacji – brak dostępu do dokumentacji branżowej i danych eksperckich,
• brak odpowiedzialności – model nie ponosi konsekwencji za błędy, dlatego zawsze konieczna jest weryfikacja przez użytkownika.

Problemem nie jest wyłącznie technologia, ale brak świadomości użytkowników, którzy zakładają, że każda odpowiedź AI jest prawdziwa. Edukacja w tym zakresie jest absolutnie kluczowa – podkreśla Michał Gaszewski.

Dedykowane narzędzia AI – gdy precyzja ma znaczenie

Odpowiedzią na te ograniczenia są narzędzia dedykowane, tworzone z myślą o konkretnej branży. Zamiast uczyć się na przypadkowych danych z sieci, opierają się one na fachowych źródłach – aktach prawnych, orzecznictwie, wynikach badań czy dokumentacji branżowej.

W prawie przykładem jest LEOLEX AI, które analizuje przepisy, orzeczenia i wzory umów, wspierając kancelarie i działy prawne w codziennej pracy. Dzięki temu system nie musi odwoływać się do Internetu, a użytkownik otrzymuje odpowiedź z pełnym wskazaniem źródła.

Podobne rozwiązania powstają także w innych sektorach:

• w finansach – BloombergGPT, FinGPT, AlphaSense,
• w psychologii – Woebot Health, Wysa, Tess AI,
• w medycynie – Glass AI, Infermedica,
• w HR – HireVue, Pymetrics.

Coraz częściej firmy tworzą też własne, zamknięte modele językowe – działające na ich wewnętrznych bazach danych, co pozwala zachować poufność i pełną kontrolę nad źródłami.

Wnioski i podsumowanie

ChatGPT i inne modele językowe to potężne narzędzia, które zmieniły sposób, w jaki korzystamy z technologii. Sprawdzają się w edukacji, researchu i codziennych zadaniach, ale w branżach specjalistycznych – tam, gdzie błąd ma wysoką cenę – większe bezpieczeństwo dają rozwiązania dedykowane.

Sztuczna inteligencja nie jest po to, by zastępować prawników czy lekarzy. Jej rolą jest wspierać, automatyzować żmudne procesy i otwierać nowe możliwości – ale ostateczna decyzja zawsze należy do człowieka – podsumowuje Michał Gaszewski, CEO LEOLEX AI.