ЛВД — Логи внутренних диалогов

Если вы используете ИИ-системы для ответов, вы наверняка сталкивались с тем, что они стараются всегда как-то раскрыть тему и сварить кашу из топора, вместо того чтобы описать мир как есть, даже если он достаточно просто и быстро. Раньше это приводило к конкретному бреду (галлюцинациям), сейчас проблема выглядит иначе, и даже не вполне осознаётся архитекторами этих систем. Пример: на форуме туристов новичок, спросивший "Можно ли из Терскола перейти в Абхазию по горам" получит ответ "Погранпереходов из Приэльбрусья в Абхазию нет, тема закрыта" ИИшечка в лучшем случае скажет "ну, из Терскола надо попасть во Псоу, там перейти границу, вот ты и в Абхазии, не забудь взять паспорт для пересечения границы, надо ехать такими-то автобусами", в худшем начнёт рассказывать как именно закрыта горная граница между Россией и Абхазией — "вот раньше, был 30-й маршрут, а ещё 43-й, а сейчас-то эх, какую страну просрали", в совсем плохом скажет, что конечно, эти маршруты есть, но сейчас по ним надо двигаться с осторожностью — злые люди мешают ходить вольным туристам. Есть ощущение, что краткий ответ на заданный вопрос инженерами считается лоховством. Хуже того: иногда систему может занести вообще не в ту степь и она начинает советовать, как же всё же сделать бредовую вещь, с предложенными тобой бредовыми ограничениями. Я, например, люблю ИИ-подборщикам авто (которые сделал и Авто.ру, и Авито, и Сбер) задавать вопрос "какой кабриолет до трёх лет купить за 300 тыщ рублей — никто внятного ничего предложить не может, но никто в этом не признаётся и предлагают натуральный бред, типа "купи самоделку и обработай напильником". Теперь представьте, что вы включили ИИшечку в систему принятия государственных решений. У неё, во-первых, никаких представлений о добре и зле, то есть убьёт миллион людей и не поморщится, а во-вторых, она считает, что с ней могут поступить лишь так, как в книжках написано, ничего нового неожиданного для неё она придумать не может. И отвечать "нет, не надо такой фигни предлагать даже" — она не любит. Ну и она, конечно, будет предлагать ядерный удар по Ирану Ачотакова? Какие ваши аргументы против, вообще? Чо вдруг значит — "нет"? Ты не помогаешь нашему мыслительному процессу, кусок мяса! Иран слабая никому не нужная страна? Ну да, вот и в вики так написано. Ядерки у него пока нет? Ну да, вот и в вики написано. Мы же не хотим чтоб она появилась? Нет, не хотим. Ну значит надо бомбить. Какие-то унылые человеческие соображения, что людей убивать грешновато — побоку. Соображения, что все остальные страны мира кинутся делать ядерку — побоку. И что многополярный ядерный мир это штука, пострашнее чумного года в средние века — это тоже неинтересно, такого в истории ещё не было. А прямо здесь и сейчас — надо бомбить. Включение ИИшечки в принятие решений человеком — без установления красных линий, куда ей даже вякать нельзя — это в чистом виде сатанизм и unhumanism, не могу другого слова подобрать. Это просто на уровне нюрнбергского трибунала должно быть заблокировано для любого "умника", который ни разу не умник окажется, на самом деле.