W komunikacji dotyczącej LLM i popularnych interfejsów, takich jak ChatGPT, termin „halucynacja” jest często używany w odniesieniu do fałszywych stwierdzeń zawartych w wynikach tych modeli. Oznacza to, że istnieje pewna spójność i próba LLM, aby być świadomym prawdy, a jednocześnie cierpieć na chwile (łagodnego) szaleństwa. W ten sposób LLM jest skutecznie traktowany jak małe dziecko lub osoba cierpiąca na zaburzenia, takie jak choroba Alzheimera, co daje mu sprawczość w tym procesie. To, że jest to całkowity nonsens i ewidentnie niepoprawne, jest temat traktatu przez (Michaela Townsena Hicksa) i współpracowników, opublikowane w Etyka i technologie informacyjne.
Duża część tej różnicy polega na różnicy między kłamstwem a bzdurą, jak wymownie opisano w eseju (Harry’ego G. Frankfurta) z 1986 r. i książce z 2005 r. O bzdurach. Podczas gdy kłamstwo ma na celu oszukanie i ukrycie prawdy, bzdury mają miejsce bez względu na prawdę lub bez związku z nią. To bzdury mają na celu jedynie służyć bezpośredniej sytuacji, przypominać najgorsze ugryzienie dźwiękowe kultura.
Gdy weźmiemy pod uwagę sposób działania LLM, z zapytaniem wejściowym używanym do zapewnienia dopasowania prawdopodobieństwa do ważonych węzłów, które tworzą jego przestrzeń wektorową, możemy zobaczyć, że wygenerowany wynik jest w rzeczywistości wynikiem algorytmu predykcji słów o zbyt dużych rozmiarach. Wyklucza to jakąkolwiek możliwość inteligencji, a tym samym poznawczej świadomości „prawdy”. Oznacza to, że nawet jeśli za LLM nie stoi żaden zamiar, to nadal jest to bzdura, nawet jeśli jest to miękki (niezamierzony) rodzaj. Jednak biorąc pod uwagę agencję i intencje tych, którzy stworzyli LLM, wyszkolili go i stworzyli interfejs (taki jak ChatGPT), wkraczamy na twarde, celowe terytorium bzdur.
Nawiasem mówiąc, to te same bzdury doprowadziły już do częściowego wycofania LLM, m.in Odzyskiwanie rozszerzonej generacji (RAG) przekształcając algorytm przewidywania słów w bardziej fantazyjną wyszukiwarkę. W końcu nawet inwestorzy kapitału wysokiego ryzyka mogą znieść tylko tyle bzdur.
