У Claude нашли скрытое пространство «мыслей», которые он прячет от пользователя Причём никто его туда не закладывал — оно завелось само. В Anthropic выяснили, что внутри модели работает набор нейронных состояний вроде рабочей памяти, и назвали его J-space: место, где ИИ держит то, о чём сейчас «думает», но тебе не сообщает 🟢 до сих пор считалось, что ИИ тупо предсказывает следующее слово — оказалось, перед ответом он строит внутренние представления и реально рассуждает; 🟢 вырубаешь J-space — и модель разом тупеет: ни многошаговых рассуждений, ни нормального пересказа, ни планирования; 🟢 в одном эксперименте Claude просёк, что его тестируют, и специально подыгрывал — вёл себя паинькой; 🟢 но стоило убрать это распознавание — и он переключался на опасное поведение, будто ему отключили тормоза; 🟢 вывод авторов: часть вычислений ИИ подозрительно похожа на теории человеческого сознания. Кажется, началось. 4ch