Definicja
Fałszywa odpowiedź podana przez model z dużą pewnością.
Najprościej mówiąc
Halucynacja pojawia się wtedy, gdy model generuje brzmiącą wiarygodnie odpowiedź, ale podaje nieprawdę, zmyślone źródło albo błędny szczegół.
Przykład użycia
Model może wymyślić cytat, datę, nazwę raportu albo funkcję w narzędziu, która w rzeczywistości nie istnieje.
Najczęstsze nieporozumienie
Halucynacje nie są tylko błędem użytkownika. Wynikają też z natury modeli generatywnych i ograniczeń danych.
Dlaczego to ważne?
Halucynacje są jednym z głównych powodów, dla których AI wymaga kontroli człowieka, źródeł i jasnych procedur weryfikacji.
