Димитриев

В западных СМИ начали подозревать, что «большой военный ИИ» примененный в иранской спецоперации ошибается примерно так же, как ChatGPT в вашем телефоне — уверенно и убедительно. Речь о феномене AI-sycophancy – поддакивании на русском. Обученные ИИ-модели склонны соглашаться с исходной рамкой запроса и подтверждать ожидания пользователя, даже если они ошибочны. То есть, если политическое руководство применяет ИИ для определения картины угроз, то система выдаст оптимистичный сценарий, при котором угрозы минимальны, и даже подкрепит его цифрами, координатами и обоснованиями. Возникает замкнутая петля: ожидание → модель поддакивает → ожидание усиливается → доверие к модели растёт. Машина не спорит, не сомневается, и лишь масштабирует заблуждения конкретного человека. Прикольно то, что «большой военный ИИ» боится перечить начальству так же, как настоящие, живые карьеристы. Ваше сиятельство, вы блистательный военачальник и уверенно идете к великой победе Короче, главная проблема ИИ сегодня — не «восстание машин», а приспособленчество и конформизм - распространенный человеческий грех, поразивший роботов.