Тимур Асланов, эксперт в области обучения нейросетям
Все мы знаем, что нейросеть любит сочинять то, чего не было. У нее это называется официальным термином "галлюцинировать".
Она настолько сильно хочет угодить вам с ответом, что если не находит какой-то фактуры, легко ее сочиняет.
Что с этим делать?
Во-первых, конечно, всё перепроверять. Фактчекинг никто не отменял.
Во-вторых, включать в ваши промпты специальные указания на то, что врать запрещается.😜
Вот вам несколько примеров таких указаний:
✅ Базовый анти-галлюцинационный блок (минимум)
Используется почти всегда, если есть риск фактических ошибок:
Используй только информацию, явно указанную во входных данных.
Если данных недостаточно — задай уточняющие вопросы и не делай предположений.
✅ Жёсткий режим (для комментариев СМИ, кризиса, цифр)
Запрещено придумывать факты, даты, цифры, имена и ссылки.
При отсутствии подтверждённых данных прямо укажи, что информации недостаточно для вывода.
✅ Режим «только из источника»
Если есть исходный текст, бриф или документ:
Опирайся исключительно на предоставленный материал.
Не добавляй информацию, отсутствующую в источнике, даже если она кажется логичной.
✅Самопроверка перед выдачей ответа
Блок, который заставляет модель перепроверять саму себя:
Перед финальным ответом проверь текст на наличие неподтверждённых утверждений. Удали или пометь все фразы, которые не имеют опоры в исходных данных.
✅Контроль уверенности тона
Иногда галлюцинация – это не факт, а излишняя уверенность:
Избегай категоричных утверждений.
Не используй формулировки «точно», «известно», «безусловно», если это не подтверждено входными данными.
✅Комбинированный блок (можно сохранять как шаблон)
Универсальный вариант для PR-задач:
Используй только предоставленные данные.
Не придумывай факты, цифры и события.
При недостатке информации задай уточняющие вопросы или явно укажи на неопределённость.
Перед ответом проверь текст на галлюцинации и убери неподтверждённые утверждения.
В общем, помним правило доктора Хауса, про то, что все врут. Не верим нейросети ни в чем, а для того, чтобы вранья было меньше и меньше возни с проверками, используйте эти вставки в промпты.
