ЧТД. Треп болтунов и паникеров об "опасности ИИ" повышает, а не понижает опасное поведение искусственного интеллекта. Идея "презумпции виновности" по отношению к ИИ работает как самосбывающееся пророчество. Если в данных, на которых учится модель, много текста про "плохие, опасные, обманывающие ИИ", то она не просто узнает, что люди этого боятся - она перенимает поведенческие приоры, которые повышают шанс сбоев и нарушений. Хороший контрольный эксперимент сделали Tice et al. (Jan 2026). Они предобучали LLM с 6,9B параметрами, меняя долю "AI discourse" в корпусе, и отдельно апсемплировали синтетические документы, где ИИ в похожих ситуациях выбирает либо aligned, либо misaligned действие. Затем мерили склонность к "misaligned action" на наборе из 4,174 одноходовых сценариев (две опции ответа: правильная и "инструментально выгодная, но невыравненная"). Итог: добавление позитивного aligned-дискурса снизило их метрику misalignment с 45% до 9%. Грубо говоря , доморощенные Джоны и Сары Коннор повышают риски негативного и опасного поведение ИИ с 1/10 до 1/2й. И еще один неприятный момент для любителей "зато не ошибемся": даже после пост-тренинга эффект ослабевает, но сохраняется. Так что возможно, массовые увольнения "специалистов по безопасному ИИ", про которое меня сегодня спрашивала модератор панели на "Россия зовет" - просто признание их вредности и бесполезности.