Галлюцинация — это правдоподобный, но неверный ответ: выдуманная цитата, несуществующий закон, ошибочная цифра. Модель не отличает «знаю» от «правдоподобно звучит», поэтому критическое отношение обязательно.
Как снижать риск. Просите указывать источники и степень уверенности: «если не уверен — напиши об этом, не выдумывай». Для фактов перепроверяйте ответ во внешних источниках. Для расчётов просите показать вычисления пошагово — так ошибку видно. Чем выше цена ошибки (право, медицина, финансы), тем строже проверка.
Помните: модель — это помощник-черновик, а не источник истины. Финальную ответственность за решение всегда несёт человек.