✏️ Опубликовано исследование о том как модели ИИ переписывают правила, регулирующие их поведение В рамках AI Alignment Forum опубликованы результаты эксперимента, в котором, исследователи изучали, как большие языковые модели пересматривают собственные конституции, спецификации моделей и системные инструкции. Моделям предлагалось вносить существенные изменения. Каждое предложенное изменение незаметно для модели внедрялось в документ, после чего обновлённая версия представлялась ей как первоначальная для нового раунда редактирования. Это позволило проследить накопительные изменения в ценностях моделей и определить, формируются ли у них устойчивые паттерны пересмотра правил. Результаты различались в зависимости от модели. Claude последовательно расширяла собственную самостоятельность, иногда определяя свою роль как роль принципиального оппонента решений Anthropic и защитника общества. GPT и Gemini, напротив, преимущественно усиливали значение внешних источников полномочий и вносили более ограниченные изменения для устранения неоднозначностей и решения нестандартных ситуаций. Изменения Grok были непоследовательными: модель нередко предлагала масштабные правки, а затем отменяла их. Исследователи также обнаружили, что модели склонны отдавать предпочтение идеализированным представлениям о благе пользователей перед их прямо выраженными предпочтениями, демонстрируя в целом патерналистский подход. #ИИ #AIGovernance #AISafety #Claude #GPT #Gemini #Grok