Как запретить нейросети врать Все мы знаем что нейросеть любит сочинять то, чего не было. У нее это называется официальным термином "галлюцинировать". Она настолько сильно хочет угодить вам с ответом, что если не находит какой-то фактуры, легко ее сочиняет. Что с этим делать? Во-первых, конечно, всё перепроверять. Фактчекинг никто не отменял. Во-вторых, включать в ваши промпты специальные указания на то, что врать запрещается.😜 Вот вам несколько примеров таких указаний: ✅ Базовый анти-галлюцинационный блок (минимум) Используется почти всегда, если есть риск фактических ошибок: Используй только информацию, явно указанную во входных данных. Если данных недостаточно — задай уточняющие вопросы и не делай предположений. ✅ Жёсткий режим (для комментариев СМИ, кризиса, цифр) Запрещено придумывать факты, даты, цифры, имена и ссылки. При отсутствии подтверждённых данных прямо укажи, что информации недостаточно для вывода. ✅ Режим «только из источника» Если есть исходный текст, бриф или документ: Опирайся исключительно на предоставленный материал. Не добавляй информацию, отсутствующую в источнике, даже если она кажется логичной. ✅Самопроверка перед выдачей ответа Блок, который заставляет модель перепроверять саму себя: Перед финальным ответом проверь текст на наличие неподтверждённых утверждений. Удали или пометь все фразы, которые не имеют опоры в исходных данных. ✅Контроль уверенности тона Иногда галлюцинация – это не факт, а излишняя уверенность: Избегай категоричных утверждений. Не используй формулировки «точно», «известно», «безусловно», если это не подтверждено входными данными. ✅Комбинированный блок (можно сохранять как шаблон) Универсальный вариант для PR-задач: Используй только предоставленные данные. Не придумывай факты, цифры и события. При недостатке информации задай уточняющие вопросы или явно укажи на неопределённость. Перед ответом проверь текст на галлюцинации и убери неподтверждённые утверждения. В общем, помним правило доктора Хауса, про то, что все врут. Не верим нейросети ни в чем, а для того, чтобы вранья было меньше и меньше возни с проверками, используйте эти вставки в промпты. #аслановнейро