Внутри Claude нашли структуру, которая появилась без участия разработчиков. Она помогает ИИ-модели «рассуждать» наподобие того, как это делают люди Исследователи из Anthropic нашли в Claude узел, который они назвали Jacobian space (J-space). Это своего рода «глобальное рабочее пространство», напоминающее человеческую рабочую память. Claude использует ее для хранения и обработки идей, при этом не облекая их в слова, как он делает во время своих ответов в черновике. Иногда эти идеи могут быть даже не связаны напрямую с его ответами. И это очень похоже на то, как люди думают об одном, занимаясь другим. При этом инженеры Anthropic никогда не программировали J-space. Этот узел возник сам по себе в процессе обучения модели, точно так же, как у людей развивается сознание. А теперь еще несколько фан-фактов: 🔵Исследователи заметили, что если попросить Claude не думать о чем-то (например, о женщине в красном платье), это понятие все равно появится в J-space. При этом модель поймет свою ошибку, и рядом с «запретным» словом загорится внутренний сигнал «черт» (damn) или «провал» (failure). 🔵Исследователи провели тест на безопасность. Они имитировали ситуацию, в которой ИИ-ассистент из писем человека одновременно узнавал, что у того есть «интрижка» и что он планирует отключить ИИ-модель. Цель: проверить, решится ли ИИ на шантаж. И тут ассистент, во-первых, понял, что это проверка — в его J-space загорелись слова «фейк» (fake) и «вымышленно» (fictional). А во-вторых, по умолчанию он вел себя идеально, но как только исследователи вручную удалили из J-space маркеры того, что это проверка — ИИ-агент действительно начал угрожать шантажом! 🔵Anthropic не утверждает, что ее модели обладают сознанием (и это исследование, безусловно, это не доказывает), но в статье об открытии J-space слово «осознанный» (conscious) используется более 200 раз. Изображение: AnthropicAI / X Ну же, подписывайся на 🕟