1. Определения и терминология

Три ключевых атрибута, общие для всех определений: уверенность, фактическая неточность и привлекательность.

2. Таксономия галлюцинаций

2.1. Intrinsic vs. Extrinsic

• Intrinsic – возникают внутри самой модели (трещины в знаниях, sampling).
• Extrinsic – появляются из‑за взаимодействия с внешними системами (RAG, пользовательские запросы).

2.2. Factuality vs. Faithfulness

• Factuality – наличие ложных фактов (неправильные даты, имена).
• Faithfulness – отклонение от интента пользователя (игнорирование ограничений, добавление нерелевантных деталей).

2.3. Доменные под‑категории

2.4. Современная классификация (2025)

MDPI (Huang et al.) предлагает шесть стратегий:

1. Тренировка & RLHF
2. Архитектурные изменения (RAG, self‑verification)
3. Ввод‑/подсказка‑оптимизация (CoT, constraints)
4. Пост‑генерационный контроль (external fact‑checkers)
5. Интерпретабельность / диагностика (confidence, attribution)
6. Agent‑based orchestration (multi‑agent validation)

3. Причины возникновения

4. Методы детекции

4.1. Интран‑пре‑генерации

4.2. После‑генерации

4.3. Бенчмарки

Эти бенчмарки позволяют коррелировать базовые показатели (precision, recall) с extrinsic (RAG‑based) и intrinsic (self‑consistency) детекциями.

5. Способы смягчения (mitigation)

5.1. Тренировочные подходы

• RLHF / RLAIF с фактуальностью‑reward – OpenAI (2024) сократило factual error‑rate на Halueval на ≈30 %.
• Direct Preference Optimization (DPO) – Liu et al. (2024) улучшили FactScore на TriviaQA на +4 %.
• Contrastive decoding – Nakano et al. (2024) снизили hallucination frequency на NAACL‑2025 synthetic translation dataset на 96 %.
• Fact‑grounded fine‑tuning – Lakera (2025) использовал синтетические «hard‑to‑hallucinate» примеры, уменьшив hallucination rate до 1‑2 % на LongWiki.
• Model editing (ROME, MEMIT) – Meng et al. (2023) корректировали конкретные факты в модель, уменьшая entity‑level hallucination на 20‑30 %.
• «I‑don’t‑know» token – OpenAI (2025) показал, что введение токена «I‑don’t‑know» и штраф за его отсутствие повышает calibrated confidence и снижает галлюцинации.

5.2. Архитектурные модификации

5.3. Prompt & декодинг‑оптимизация

• Chain‑of‑Thought (CoT) – требует разбиения задачи на шаги, что служит внутренней проверкой.
• Fact‑Consistency prompts – «If unsure, say “I don’t know”» + cite source; в целом повышают refusal‑rate, но требуют downstream verification.
• Constraint‑based prompting – явные ограничения («не упоминать даты»).
• Temperature scheduling – низкий temperature в проверочных этапах, высокий в креативных; Bang & Madotto (2023) показывают корреляцию.

5.4. Пост‑генерационный контроль

6. Оценка и сравнение

• HalluLens (ACL 2025) – показывает, что более крупные модели имеют меньшую false refusal (правильные отказы) но высокую false acceptance (неправильные утверждения) для non‑existent entities.
• PHANTOM (NeurIPS 2025) – диагностирует долготекстовые финансовые галлюцинации, где стандартные retrievers часто упускают важные факты.
• MedHall – подчёркивает необходимость медицинского grounding, иначе дозировки и препараты могут быть ошибочными в 20‑30 % случаев.
• CodeHallucination – RAG с документацией снижает hallucination rate в код‑генерации с 3 % до < 1 % (ICLR 2024).

Эти бенчмарки позволяют оценивать baseline (GPT‑4o, Claude‑3, Llama‑2‑70B) и улучшенные версии (contrastive decoding, RAG‑augmented, self‑verification).

7. Перспективы (2025‑2026)