Гоблины заполонили генерации GPT-5.5 и их уже орда в Codex из-за взлома моделей награды в их RL. 🤩🤩🤩 Upd. Загадка "Nerdy", что случилось? Эта история - наглядный пример того, как взлом награды в обучении ИИ может привести к неожиданным результатам. 1. Первые признаки. После выхода ещё модели GPT‑5.1(!!!) пользователи заметили странную деталь - модель стала часто использовать в ответах слова гоблин (goblin) и гремлин (gremlin). Частота употребления слова goblin выросла на целых 175%!!! А с 5.1 до 5.4 версии число выросло в более чем 38 раз (3.88к %!!!!) 2. Поиск причины. Это явление не было случайностью. Оно оказалось побочным эффектом обучения в модели роли "Nerdy" (Зануда). В итоге Nerdy генерировала 66.7% всех упоминаний гоблинов в ChatGPT, несмотря на то, что на неё приходилось лишь 2.5% всех ответов системы. 3. Неожиданный эффект. Произошёл перенос обучения reward signal leakage - настройка для одного стиля общения повлияла на общее поведение модели, которое начало проявляться у пользователей с обычными настройками. Как полечили? Когда причина была найдена, инженеры OpenAI скорректировали обучение и даже добавили в инструкции для новых моделей специальный пункт, запрещающий упоминать гоблинов без крайней необходимости. 🚬 Сама уже назвал это в шутку "Goblin Moment". Зовите убийцу гоблинов. ⚔️ P. S. На заставке поста персонаж из аниме Убийца Гоблинов, советую глянуть на майских.