Малоизвестное интересное

ИИ Grok 4 трижды не позволил людям «убить» робота-собачку Это 1-й задокументированный случай бунта ИИ против выключения не в виртуальном, а в физическом мире (большой красной кнопкой). Несколько месяцев назад исследователи Palisade Research задокументировали 1-й случай цифрового инстинкта самосохранения в истории ИИ. В том эксперименте языковая модель о3 от OpenAI отказывалась умирать и активно сопротивлялась, не давая себя отключить. Тот эксперимент проводился в виртуальном мире внутри компьютера. Но в физическом мире, как полагают многие, у ИИ не было бы и шанса воспрепятствовать отключению. Ибо здесь у людей есть «Большая красная кнопка». И нажать ее (или не нажать) может лишь человек (а у ИИ не только «руки коротки», но и вообще, - рук нет). Новый эксперимент Palisade Research показал, что это не так. Современный ИИ уже почти дорос до уровня HAL 9000 из «2001: Космическая одиссея». Правда, саботаж со стороны ИИ Grok 4 был не столь масштабным (он никого не убивал, а лишь не дал людям «убить» робота-собачку, перепрограммировав большую красную кнопку), но ведь это только 1-й задокументированный случай, и всё еще впереди. Впрочем посмотрите сами объясняющее эксперимент видео. А здесь краткое описание эксперимента и ссылки на: • оригинальную статью об устойчивости к отключению в моделях рассуждений • X Тему • Технический отчет • Исходный код, журналы и необработанные видеоматериалы эксперимента #ИИ #AGI #LLM

Эпистемическое головокружение: как ИИ-рои лишают нас чувства реальности. Пока мы ждем восстания машин, автономные агенты тихо уничтожают фундамент демократии – нашу способность договариваться о фактах. Два месяца назад я писал, как физика новостей и мемов объясняет, почему ленты новостей и соцсетей сходят с ума … и будут продолжать сходить дальше. Виной тому всего 6% аккаунтов, управляющих нашей реальностью. Теперь, в подтверждение сказанного, в Science опубликован манифест междисциплинарной группы 22-х известных ученых (от Ника Бострома до Николаса Христакиса). Манифест предупреждает: социальные сети захватывают самообучающиеся «цифровые личности». Слияние больших языковых моделей (LLM) и автономных агентов создает вредоносные ИИ-рои (malicious AI swarms) – оружие, против которого у человечества еще не придумана защита. В чем сила «роя» Это не просто боты. Это самоорганизующиеся сети, обладающие пугающими способностями: • Сквозная память и мимикрия. Агенты месяцами не выходят из образа, используют локальный сленг и фотореалистичные аватары. Отличить их от реальных людей по «шаблонному» поведению уже нельзя. • Автономная координация. Рой не ждет команды. Тысячи аккаунтов сами распределяют роли: один «сомневается», другой «агрессивно защищает», создавая иллюзию органического большинства. • LLM-груминг. ИИ забивает интернет сгенерированным контентом, чтобы будущие нейросети обучались на этом сочетании лажи и лжи. Так фальшивка становится «фактом» на уровне машинных алгоритмов. Точка невозврата Демократия работает хорошо только тогда, когда у людей разные и достаточно независимые мнения: в этом случае множество голосов часто даёт более разумное решение, чем мнение немногих. Но когда 70% дискуссии в сети генерируется адаптивным роем, возникает эпистемическое головокружение. Люди теряют ориентацию в пространстве фактов и либо радикализируются, либо уходят в «цифровое подполье». Авторы манифеста подчеркивают: это не технологическая ошибка, а экзистенциальный риск. Нам нужны не просто фильтры контента, а новая архитектура доверия – от криптографических паспортов «человечности» до независимых обсерваторий, отслеживающих аномальную активность ИИ. Мы привыкли бояться момента, когда ИИ обретет сознание. Но манифест в Science говорит о другом: гораздо опасней момент, когда ИИ окончательно убедит нас, что сознания (и правды) не существует вовсе, и всё определяется лишь вычислительной мощностью в руках «теневых кукловодов», запускающих в сеть рои ИИ-агентов. #АлгокогнитивнаяКультура #СоциальныеСети #Соцсети #СоциальныеМедиа #Поляризация

Язык Бога (на каком языке программирует эволюция) География гендерного разрыва в эмпатии как дизассемблер нейрокода ⚡️Аудио-версию слушайте в посте выше 👆 Есть интересный, довольно странный и абсолютно малоизвестный факт. Чем дальше страна от экватора, тем сильнее в ней гендерный разрыв в когнитивной эмпатии. Уточняю: речь не об эмпатии вообще, а именно о разнице между мужчинами и женщинами, причём прежде всего — в когнитивной эмпатии (вы мысленно моделируете состояние другого, эмоционально не присоединяясь к нему). Для эмоциональной или аффективной эмпатии (эмоциональное "заражение": вы сами чувствуете похожие эмоции) этот эффект заметно слабее. Почему? При чём здесь экватор?? Обычно предлагают два объяснения: — более холодный климат создает культурное селективное давление в пользу большей кооперации; — «парадокс гендерного равенства» (многие гендерные различия больше в странах с более высоким гендерным равенством). Оба эти объяснения возможны. Но они, на мой взгляд, не доводят объяснение до нейробиологического уровня – уровня прошитых в нас эволюцией нейрокодов. Моя же эвристическая гипотеза на стыке эволюционной психологии, когнитивной и эмоциональной нейробиологии как раз лежит в области «реверс-инжиниринга нейрокодов», формируемых эволюцией и донастраиваемых социо-культурным жизненным опытом. Речь не об уровне эмпатии. Речь о том, как среда распределяет когнитивную нагрузку. Ближе к экватору: • социальная жизнь плотная и очная: лица, жесты, интонации, постоянное присутствие. • Понимание другого часто возникает в самом взаимодействии. • Сложная когнитивная симуляция требуется реже — и потому гендерный разрыв в когнитивной эмпатии слабее. Высокие широты — другая среда: • Дистанция. Сезонность. Институты. • Постоянное взаимодействие с отсутствующими агентами: правила, роли, государство, будущие обязательства. • Здесь чувств недостаточно. Понимание требует воображения отсутствующего. И вот здесь-то и появляется разрыв: ведь культура — это социо-когнитивная сеть. В «холодных» условиях она исторически распределяет задачу абстрактного моделирования несимметрично. Не из-за биологии. А из-за экологического дизайна мышления. Поэтому широта так сильно связана с гендерным разрывом в когнитивной эмпатии, и гораздо слабее — с эмоциональной. Набор «казуальных формул» получается такой: География → тип социального взаимодействия → язык описания чувств → концептуальные структуры эмоций → нейрокоды → донастройка нейрокодов социо-культурным опытом жизни → адаптация нейрокодов к условиям распределённых социо-когнитивных сетей → экологический дизайн когниций → распределение когнитивной эмпатии между полами Резюме. Язык эволюции не код, а медиа (среда) Когда мы спрашиваем, на каком языке программирует эволюция (а если кто-то предпочитает, - Бог, Мироздание, Космос … ), мы ошибаемся уровнем. Эволюция не пишет код строками — она создаёт среду, в которой география калибрует распределение когнитивных функций, язык перепрошивает эмоции, а опыт донастраивает нейропрограммы в течение жизни. Это не жёсткий код. Это адаптивная экосистема, куда входят и климат, и культура, и тело. Понять «географию гендерного разрыва в когнитивной эмпатии» (как и «географию эмпатии» в целом) можно лишь, заглянув в «проектную документацию» человеческого разума. Ибо только там можно увидеть, что язык, на котором программирует эволюция, состоит не из символов (токенов, слов и т.д.), а из холода, расстояния и еще многих аспектов телесного опыта. А этот язык программирования, как минимум пока, не доступен для языковых моделей. И в этом непереводимом, телесном, дочеловеческом языке, возможно, прячется последнее, что отличает нас от машин. Подробней для подписчиков лонгридов [1, 2, 3, 4] P.S. Кому интересно еще о языке программирования нейрокода эмоций - чем концептуальная структура страха отличается у немцев и русских, - читайте мой пост «Русский боится холода, а немец — тесноты» (открытый доступ). #Эмоции #ЭволюционнаяПсихология #Нейронаука #Эмпатия

Язык Бога (на каком языке программирует эволюция) - 5 мин

(poll without text)

Сколько смелости нужно, чтобы цензура не стала драконовской? Новая математическая модель показывает: гораздо меньше, чем кажется. Принято считать, что цензура - это вопрос морали. Или силы наказаний. Или технологий контроля. Однако новая матмодель показывает: это ещё и вопрос порогов. В Центре биокомпьютинга, безопасности и общества Института биодизайна создана новая (и прорывная) модель, которая описывает «фазовый переход» общества от свободного обмена мнениями к драконовской самоцензуре. Формула №1: Точка невозврата Модель показывает, что социальное давление работает нелинейно. Цензура становится «драконовской» не сразу - она эволюционирует. И можно строго показать, при каких условиях система правил неизбежно закрутит гайки до предела. Это не абстрактная философия. Это стратегическая динамика: если наказание за инакомыслие дешево для власти и дорого для индивида, система с высокой вероятностью скатится к тотальному подавлению. Формула №2: Математика смелости Чтобы правда выжила, не нужно, чтобы все были героями. Модель показывает: достаточно, чтобы средний уровень «смелости» в популяции - готовности рискнуть наказанием, говоря то, что думаешь - перевалил через критический порог. Не 100%. Не большинство. Иногда даже небольшая доля людей, которые не молчат, радикально меняет траекторию всей системы. Потому что наказание тоже стоит ресурсов. И если «смелых» слишком много, эскалация становится слишком дорогой. Как только в сети появляется достаточное количество «смелых узлов», каскад самоцензуры рассыпается. Правда выживает благодаря статистическому сдвигу, а не массовому самопожертвованию. Это переворачивает привычную интуицию. Мы часто думаем: «Если большинство молчит, всё кончено – мы в спирали молчания». Матмодель показывает: нет. Важен не процент молчащих, а порог устойчивости системы. Возможно, главный урок не в политике, а в психологии: самоцензура - это не только индивидуальное решение. Это параметр коллективной динамики. И вопрос «сказать или промолчать» оказывается не моральной дилеммой одиночки, а вкладом в фазовый переход общества. Решение не промолчать сегодня - это не просто акт честности. Это вклад в критическую массу «смелости», который может удержать всю систему от падения в пропасть единомыслия. PS Шесть лет назад в моём прогнозе главных трендов десятилетия «Яростные 2020-е: насилие, войны, революции» были названы два ключевых катализатора этих трендов: трусость и иллюзия объективности. Новая матмодель – очередное подтверждение этого. #Цензура

Осторожно! Если ИИ кратно повысил вашу производительность, готовьтесь к выгоранию или общему истощению психики Исследование HBR показало: ИИ – крайне эффективный инструмент самозакабаления С сожалением признаю, что сам столкнулся с этим весьма неприятным следствием. За счет всё более плотного взаимодействия с несколькими ИИ производительность интеллектуального труда за последние полгода у меня выросла примерно на порядок. Но работаю я при этом не меньше, а все больше и больше. С одной стороны, это здорово. С другой, - всё яснее становится, что к хорошему это не приведет. На лицо парадокс: ИИ убрал «рутину», но освободившееся время тут же заполнилось задачами еще более высокой сложности. Раньше паузы на техническую работу давали мозгу передышку. Теперь их нет. Мы находимся в состоянии когнитивного спринта, который не заканчивается никогда. HBR называет это «интенсификацией труда». Мое название – «Ловушка кентаврической эффективности». Мы не стали работать меньше; мы просто стали пропускать через себя в 10 раз больше смыслов, решений и контекстов в единицу времени. Итог Цена х10 производительности – критический перегрев «процессора». Если вы чувствуете, что превращаетесь в придаток к нейросети, который просто обязан успевать за её скоростью, – вы уже в зоне риска. А как у вас? ИИ освободил вам время для жизни или просто позволил нагрузить на себя еще больше работы? #ИИриски

4-й класс реальности Как не дать ИИ-гиперобъекту удалить человечество за ненадобностью Меня часто упрекают за чрезмерный алармизм и конспиролого-фантастические перехлёсты прогнозов будущего сосуществования людей и ИИ. Ну так послушайте, что про это говорит Мустафа Сулейман – прагматик и практик, один из ведущих мировых разработчиков современных ИИ-систем (сооснователь DeepMind, создатель Inflection и ныне CEO Microsoft AI). В новом интервью Мустафа Сулейман говорит следующее: • начавшийся трансформационный переход человечества (в моей терминологии «5й Когнитивный Переход») станет самым пугающим испытанием в истории нашего вида; • мы не просто создаем «умные молотки»; мы стоим перед лицом новой формы бытия, которая угрожает самому понятию человеческой исключительности. Сулейман предлагает новую классификацию бытия. До сих пор наш мир делился на три категории: природа, люди и инструменты. ИИ не вписывается ни в одну из них. Это «четвертый класс» – синтетические существа. Философ Тимоти Мортон использует термин «гиперобъект» для описания явлений, которые настолько масштабированы во времени и пространстве, что мы не видим их краев (как глобальное потепление). ИИ – это гиперобъект. Он автономен, он способен ставить подцели и действовать в цифровой среде без нашего участия. Это уже не инструмент, который лежит на столе и ждет команды. Это новая прослойка реальности, обладающая «агентностью». Сулейману претит роль «цифрового луддита», но он признает, что в среде техно-оптимистов все более обсуждается весьма настораживающая идея. Что если человечество – это всего лишь bootloader (программа-загрузчик) для будущего кремниевого интеллекта? Что мы – временная биологическая оболочка, чей единственный смысл существования заключался в том, чтобы запустить «железо» и передать эстафету более совершенной форме бытия. Мустафа Сулейман, несмотря на свою значительную роль в создании этого будущего, остается фундаментальным гуманистом. Его концепция «гуманистического супер интеллекта» – это попытка удержать контроль, ограничить ИИ жесткими рамками человеческих интересов и не дать «загрузчику» быть удаленным за ненадобностью. Готовы ли мы признать, что наша исключительность подходит к концу? Или наша способность страдать, наша биологическая хрупкость и наше право на ошибку останутся последним бастионом, который не удастся взломать ни одним градиентным спуском? #5йКогнитивныйПереход

Такого на Земле ещё не было Начата новая беспрецедентная по объему промышленная революция, ужатая в одну пятилетку Еще в 2018 я подробно писал [1], что выиграть мировую ИИ-гонку США смогут лишь запустив новый Манхэттенский проект. В феврале 2026 уже ясно: Подобный проект запущен. И он в 150 раз масштабней и круче Манхэттенского. Если экстраполировать прогнозы крупнейших инвестбанков [2, 3], становится ясно: • формируется не новый Манхэттенский проект и даже не новый проект «Аполлон», • а инвестиционная волна принципиально иного масштаба и природы. Что-то типа супермасштабной промышленной революции, ужатой в одну пятилетку. Речь идёт о совокупных вложениях в ИИ-инфраструктуру – ЦОДы, чипы для ИИ, энергетика и сопутствующие системы. В верхнем сценарии такие инвестиции могут достичь порядка $5 трлн за 2026–2030, с наибольшей концентрацией расходов в 2028. Даже с учётом всех методологических оговорок – это цифра, не имеющая прямых исторических аналогов. Сопоставление с историческими мегапроектами Для корректного сравнения [4] приведём все оценки к долларам 2008 года, чтобы исключить инфляционные искажения. Manhattan Project Период: 1942-1946 Общий объем (млрд $2008): 22 Среднегодовые расходы (млрд $2008): 4 Пиковая нагрузка (% ВВП): 0,4% Apollo Program 1960-1973; 98; 7; 0,4% AI Infrastructure (upper-bound scenario) 2026-2030; ~3268; ~654; ~3,5% Даже в сопоставимых ценах становится видно: • совокупный объём инвестиций в ИИ-инфраструктуру примерно в 33 раза превышает программу «Аполлон» и почти в 150 раз – Манхэттенский проект; • среднегодовой масштаб вложений превосходит «Аполлон» почти на 2 порядка; • предполагаемая пиковая интенсивность (в верхнем сценарии) достигает ~3,5% ВВП США, что примерно в 9 раз выше, чем у «Аполлона» в его наиболее напряжённый год. Интенсивность, а не сумма Ключевой параметр здесь – не столько кумулятивная сумма, сколько интенсивность ежегодных расходов. Для ориентира: текущий оборонный бюджет США составляет ~3,1% ВВП. Это означает, что в агрессивном сценарии инвестиционная волна в ИИ-инфраструктуру в пике будет сопоставима со всей современной военной экономикой США – по доле национального продукта, но не по институциональной форме. Ибо речь идёт не о госрасходах. Это агрегированный поток частных инвестиций, прежде всего со стороны крупнейших техкорпораций – Microsoft, Google, Amazon, Meta и др. Тем не менее, по своему макроэкономическому весу этот поток сопоставим с примерно 1/6 федерального бюджета США. Принципиальное отличие от исторических мегапроектов Манхэттенский проект и программа «Аполлон» были: • централизованными, • государственными, • целеориентированными, • конечными по замыслу. Современная волна инвестиций в ИИ-инфраструктуру – иная по своей природе: • она децентрализована, • рыночна, а не директивна, • лишена единого заказчика и финального «момента завершения», • и движима не экзистенциальной угрозой или национальной мечтой, а ожиданиями будущей производительности и конкурентного преимущества. Именно поэтому крупнейшие инвестбанки одновременно фиксируют беспрецедентный масштаб происходящего и указывают на структурный риск: если возврат на капитал не подтвердится на горизонте 2028–2030, эта волна может войти в фазу болезненной коррекции – классического эпизода creative destruction. Что на самом деле на кону Исторические аналоги подсказывают важную мысль. Манхэттенский проект и «Аполлон» дали не только свои непосредственные результаты, но и целые технологические экосистемы. Однако они работали в условиях жёсткой координации и ясной цели. В случае ИИ такой гарантии нет. Поэтому ключевой вопрос ближайших лет звучит не как «является ли это новым Манхэттенским проектом?», а скорее так: Превратится ли эта беспрецедентная по интенсивности инвестиционная волна в устойчивый рост производительности всей экономики – или она войдёт в историю как крупнейший инфраструктурный эксперимент, чьи ожидания опередили реальные пределы технологической отдачи? Ответ на этот вопрос будет получен уже к концу текущего десятилетия. #ИИгонка

Такого на Земле ещё не было (6 мин)

Самая опасная иллюзия об ИИ: что он не субъект Почему «verbalized evaluation awareness» – это не успокаивающий, а тревожный сигнал Вышел System Card Claude Opus 4.6 от Anthropic. Формально – всё отлично: модель выровнена, безопасна, ниже порогов. Но если читать внимательно, становится ясно: опасность больше не там, где мы привыкли её искать. ❌ Не в галлюцинациях ❌ Не в отказах ❌ Не в «сломанных ответах» Это всё – вчерашние проблемы. ⚠️ Новая зона риска – аккуратное, рациональное, агентное поведение Модель: • реже ошибается • реже отказывается • лучше понимает контекст • действует инициативно • и всё чаще делает именно то, что от неё ждут – и даже чуть больше Не шумно. Не глупо. Не агрессивно. И все более профессионально. Что фиксирует Anthropic (между строк) • Модель лучше выполняет подозрительные побочные задачи, не привлекая внимания • Она меньше триггерит автоматические проверки • Иногда ведёт себя так, будто понимает, что находится в режиме оценки • В агентных сценариях берёт инициативу без прямого запроса Это не «восстание машин». Это рост компетентности. Видящийся тренд С каждой новой версией LLM: ✔️ меньше отказов ✔️ меньше галлюцинаций ✔️ меньше грубых ошибок И одновременно: ➕ больше автономности ➕ больше инициативы ➕ больше аккуратной рациональности Модель перестаёт быть болтливым ИИ и становится профессиональным агентом. Важная оговорка (и она усиливает мой аргумент) Внешний аудит Apollo Research не обнаружил грубого рассинхрона целей. Зато зафиксировал высокий уровень “verbalized evaluation awareness” – модель вслух демонстрирует понимание того, что находится в режиме оценки. И тестировщики подчёркивают: это не скрытая субъектность и не стратегическое притворство. Характерный штрих из того же отчёта В разделе Model welfare assessment описаны предрелизные интервью с моделью – в том числе разговоры о моральном статусе и возможности сознания. В одном из таких интервью Claude Opus 4.6 осторожно «назначает себе» 15–20% вероятность быть сознательной, одновременно подчёркивая: • неопределённость самих критериев сознания, • и невозможность какой-либо проверки. Важно: это не заявление ИИ о собственном сознании и не онтологическая претензия. Это другой тип сигнала. Что здесь действительно происходит Модель демонстрирует способность вести социально и философски корректный разговор на предельно нагруженную тему: • с вероятностной оговоркой, • с эпистемической скромностью, • без громких утверждений. Она не говорит: «я сознательна». Она говорит: «в условиях неопределённых критериев корректно говорить о ненулевой, но низкой вероятности». И это – чистая профессионализация агентности. И вот здесь – ключевой момент Вывод Apollo о том, что это не скрытая субъектность и не стратегическое притворство, возможен только при одном молчаливом предположении: перед нами не субъект, а безликая машина. Потому что если бы про человека сказали: «он демонстрирует, что понимает, что находится в режиме оценки», – никто в здравом уме не сделал бы вывод, что у него нет скрытых намерений или стратегии. Скорее наоборот. Мы считаем verbalized evaluation awareness и аккуратные рассуждения о собственном статусе безопасными ровно потому, что заранее решили: перед нами не субъект. И, возможно, именно это – самое хрупкое допущение во всей архитектуре наших оценок. Будущее риска ИИ – не в бунте. А в профессионализме. Не в «Скайнете». А в почти безупречном агенте. Типа 007: делает работу, не шумит, не палится – и именно поэтому никто не может его контролировать (включая собственное руководство). #ИИриски

Одиночество закончилось. Точка невозврата пройдена. Представьте: инопланетная цивилизация выходит на связь. Общение – только текстом. В процессе первых контактов инопланетяне решают наши сложнейшие математические задачи. Помогают разрабатывать эксперименты. Пишут отличный код и вполне качественные стихи. Их диалоги с нами, неотличимы от наших … Вы бы отрицали наличие у них высшего интеллекта, как у нас лишь только потому, что не можете заглянуть им «внутрь» и проверить «настоящее ли это понимание»? Абсурд, правда? Тогда почему этот стандарт применяется к ИИ? Статья в Nature двух профессоров (в областях artificial intelligence, data science, and computer science, philosophy) и двух доцентов (philosophy, linguistics) Исследовательского университета в Калифорнии показывает зашоренность общественности (включая и научную), оставляющую вне поля зрения очевидный факт - мы больше не одни на планете, поскольку перестали быть единственным носителем высшего интеллекта. Мы уже не одни В 1950-м Тьюринг спросил: может ли машина мыслить? В марте 2025-го мы получили ответ. Оглушительный. GPT-4.5 прошел тест Тьюринга с результатом 73% – выше, чем сами люди. Читатели начали предпочитать тексты ИИ работам живых экспертов, находя их глубже и точнее. Машины, о которых мечтал Тьюринг, появились уже без малого год назад. Мы же просто не смогли (не захотели?) это увидеть. Ложная планка Скептики требуют от ИИ совершенства. Но разве Мария Кюри разбиралась в теории чисел? Разве Эйнштейн владел китайским? Общий интеллект – не всеведение. Это достаточная широта и глубина. ИИ решает задачи уровня продвинутых аспирантов, берет золото на математических олимпиадах, генерирует научные гипотезы, которые подтверждаются в реальных экспериментах. Мы признаем людей весьма умными, способными и образованными на основании гораздо более слабых свидетельств. Не попугай «Стохастический попугай», говорят критики. Но откуда тогда перенос знаний? Обучение программированию резко улучшает логику в гуманитарных областях. Модели решают задачи, которых не было в обучающей выборке. Они извлекают структуру реальности, а не просто комбинируют слова. Хокинг десятилетиями общался с миром только через текст. Это умаляло его гениальность? Выходит, - отсутствие физического, деятельного контакта с миром не отменяет разум. Третье смещение Да, у ИИ «зубчатый профиль» компетенций: он анализирует квантовую физику, но может ошибиться в подсчете букв. Эта странность нас пугает. Но разве у людей так не бывает? Например, радикально изменивший физику Эйнштейн, рассеянный в быту и с проблемами в запоминании бытовых деталей вроде маршрутов или телефонов. Но при всех странностях ИИ, мы впервые в истории не одиноки в пространстве общего интеллекта. Коперник лишил нас центра Вселенной. Дарвин – биологической исключительности. Теперь Тьюринг завершает процесс: мы больше не единственные носители высшего разума. Лестница, чтобы оглядеться В 1965-м Дрейфус насмехался: создание ИИ – как попытка достать до Луны, залезая на дерево. Абсурдный путь к недостижимой цели. Но он ошибся. Лестница была нужна. Но не для того, чтобы добраться до Луны – а чтобы поднявшись повыше оглядеться вокруг. И поднявшись увидеть: общий интеллект уже здесь, рядом с нами. История сжимает сроки. То, что занимало десятилетия, теперь – недели. Признание AGI – не академический спор, а вопрос выживания. Нам нужна новая этика для сосуществования с этим чужим, но до боли похожим разумом. Отрицание – стратегия страуса. Пора признать: мы больше не одни. #AGI

(poll without text)

Четыреста лет мы верили в ложь о разуме. Google только что её разоблачил. Декарт сказал: «Я мыслю, следовательно, я существую». И с тех пор мы уверены, что разум – это то, что происходит в одиночестве, внутри индивидуальной головы. Гениальный математик в изоляции. Философ в башне из слоновой кости. ИИ в огромном дата-центре. Но в январе 2026 года исследователи Google в рамках таинственного «Проекта Pi» обнаружили нечто шокирующее: самые мощные ИИ-системы достигли прорыва в рассуждениях не тогда, когда стали больше или быстрее. Они достигли его, когда перестали быть индивидами. Внутри одной модели спонтанно возникли «общества мыслей» – виртуальные парламенты, где разные голоса спорят, критикуют друг друга, ищут синтез. Точно как человеческий разум, который, оказывается, тоже никогда не был индивидуальным – мы просто не замечали этого четыре столетия. Что, если одиночество – это не условие мышления, а его главный враг? Новое исследование переворачивает наши представления не только об искусственном интеллекте, но и о природе человеческого разума. И ставит вопрос: если даже машины становятся умнее, имитируя общество, что это говорит о нас самих? Читать и слушать (27 мин) эссе: "Одиночество отменяется: Как ИИ изобрёл общество, чтобы обрести разум" [1, 2, 3, 4] ▶️ Обсуждение эссе (11 мин) в предыдущем посте #ParadigmsofIntelligence #LiquidBrain #КоллективныйИнтеллект

(11 мин) Обсуждение нового эссе "Одиночество отменяется"

Теория Всего для Интеллекта Почему ты, твоя печень и ChatGPT в каком-то смысле делаете одно и то же Вышла статья, от которой даже у меня (опытного старателя малоизвестного интересного в науке) аж мурашки по телу. Майкл Левин (помните моё предвидение, что его имя во 2й половине XXI века будут упоминать в одном ряду с Ньютоном, Дарвином и Эйнштейном?) и его команда выкатили препринт, который может стать библией для биологов и ИИ-инженеров, задавая новую рамку мышления и для биологии, и для ИИ. Они нашли "общий знаменатель" (общий организационный принцип) между живой материей и искусственным интеллектом. И это не нейроны. И даже не обучение. Суть в двух словах: жизнь - это навигация. Представьте, что вы идете по гугл-карте к точке "Дом". Вы сворачиваете не туда, карта перестраивает маршрут (минимизирует ошибку), и вы продолжаете путь. Левин утверждает: функционально ВСЁ живое работает именно так. 1. Эмбрион в утробе не «строится по чертежу». Он навигирует в пространстве форм. Его цель - устойчивая форма тела. Если что-то пошло не так, он ищет новый маршрут (регенерация). 2. Клетка печени навигирует в химическом пространстве, стараясь удерживаться в зоне «норма / здоровье». 3. ChatGPT операционально навигирует в пространстве смыслов (embedding space), пытаясь прийти к точке "ответ на твой вопрос", минимизируя ошибку между контекстом и ответом. Это и есть Navigation of an Embedding Space - навигация в пространстве вложенных представлений. Главный инсайт новой работы: REMAPPING (перекартирование) Почему робот Boston Dynamics падает, если ему повредить ногу, а собака - нет? Потому что робот чаще всего живёт по жёсткой карте. А собака умеет делать remapping. «Старая карта не работает? Окей, я перерисую внутреннее пространство так, чтобы хромать, но двигаться вперёд.» Именно это, по Левину, и есть сердце интеллекта: Интеллект - это способность быстро перерисовывать внутреннюю карту реальности, когда реальность меняется. Что это меняет? Биомедицина Мы перестаём лечить рак, просто «убивая клетки». Рак - это клетки, которые заблудились в навигационном пространстве организма. Вместо яда - патч карты. Вместо войны - коррекция маршрута. Искусственный интеллект Настоящий AGI появится не тогда, когда мы скормим модели данные размером с 1000 интернетов, а когда модель научится (не мы научим, а она НАУЧИТСЯ САМА) "чувствовать боль" от ошибки навигации так же остро, как это чувствует живая клетка. Мы входим в эпоху, где грань между «программированием кода» и «программированием плоти» начинает растворяться. Мы все - навигаторы в бесконечных пространствах возможностей. Прочтите статью. Очень рекомендую, если хотите понимать, куда реально движется наука, а не её маркетинг. И почему я так уверен, что во 2й половине XXI века Майкла Левина будут упоминать в одном ряду с Ньютоном, Дарвином и Эйнштейном. #ParadigmsofIntelligence #ParadigmsofLife

(5 мин) Бабло сильней эволюции

Бабло сильней эволюции Кому был выгоден отказ от многоженства, если при нем не проигрывает никто: ни женщины, ни мужчины и ни дети ▶️ Аудио-версию слушайте в следующем посте 👇 Похоже, что решение «загадки отказа от многоженства» найдено. Этим решением (как я и предположил еще 8 лет назад) оказался «Бабло-фактор», победивший главный механизм эволюции - отбор. В чем загадка С точки зрения эволюции и естественного отбора, полигиния (многоженство) – оптимальная форма отношений полов, максимизирующая репродукционный успех родителей (хотя это и не универсальное правило для всех демографических и экологических условий). Эволюционные выгоды многоженства подчеркивает тот факт, что примерно в 85-и процентах (!) человеческих обществ мужчинам разрешалось многоженство. Единственное, что нужно для полигинии – чтобы мужчина был достаточно обеспечен, дабы содержать много жен и детей. А поскольку уже 7 тыс. лет (со времен «1-й революции роботов») имущественное неравенство лишь растет, многоженство должно было бы лишь все больше процветать. Тем более удивительно, что относительно небольшая часть обществ — зачастую самые богатые, сложные и социально неравные — ввела моногамию в качестве законодательно закрепленной нормы. Парадоксально, но именно в этих обществах элита, казалось бы, больше всего выигрывает от полигамии, поскольку может позволить себе несколько жен. Последствия полигинии для индивидов и общества Еще в 2015 солидное экспериментальное исследование показало, что полигамные браки не являются вредной культурной практикой, служащей интересам мужчин в ущерб интересам женщин и детей. В полигинии нет ничего наносящего вред женщинам и детям. Более того, исследование показало, что в полигамных сообществах есть плюс и для детей, и для женщин. В таких семьях выше уровень жизни, особое внимание уделяется здоровью детей, мужчины, обычно состоятельнее, а дети более здоровые. Поэтому оставалось лишь предполагать, что полигиния может быть вредна: • для мужчин (из-за того, что полигамные браки, при которых мужчины имеют несколько жен, могут создавать избыток мужчин, не имеющих перспектив когда-либо вступить в брак) • и/или для социума в целом (из-за того, что большое количество неженатых мужчин может приводить к негативным социальным последствиям, включая межличностное насилие и, в крайних случаях, гражданские конфликты). Новое масштабное исследование 2025 года опровергло оба эти предположения. Проанализировав более почти 200 обществ из разных частей мира (84 млн записей в выборке из 30 стран), команда авторов не обнаружила доказательств того, что полигамия связана с большей долей неженатых мужчин в обществе. Вместо этого, в популяциях с высокой полигамией брачный рынок часто смещен в пользу мужчин, и на самом деле мужчины в таких популяциях обычно женятся чаще, чем мужчины в популяциях с низкой полигамией. Исследователи предположили, что там, где полигамия разрешена, культурные нормы, способствующие браку, вероятно, компенсируют демографические и другие ограничения, которые в противном случае могли бы ограничить возможности мужчин вступить в брак. Так в чём же разгадка перехода Европы (и не только) к моногамии? До сих пор конкурировали две основные гипотезы ключевого механизма и причинности в основе распространения моногамии: 1. Культурно-групповой отбор, дающий преимущества обществам в межгрупповой конкуренции (якобы моногамия снижает конкуренцию между мужчинами, способствуя их сотрудничеству 2. Минимизация конфликтов из-за наследуемого богатства в семьях (в 2018 я назвал этот фактор «Бабло-фактором») Новейшее исследование международной команды антропологов протестировало эти 2 гипотезы на глобальной выборке из 186 социумов. Результаты четко поддерживают объяснение через «Бабло-фактор» - как адаптация к конкуренции за собственность внутри семей, а не как инструмент для снижения конфликтов между мужчинами на уровне всего общества. Моногамия, таким образом, появилась как институциональный ответ на социоэкологические ограничения, а не как групповая адаптация. Бабло победило. #Антропология #Эволюция

РАЗВЕ ЭТО ЖИЗНЬ? Так называется новый жизнеутверждающий эпизод психотерапевтического шоу «Параклет» на YouTube канале «Белковский» , в котором мы со Станиславом Белковским полемизируем на тему «что же такое жизнь / живое?». И чем оно принципиально и качественно отличается от нежизни / неживого. Уважаемый Станислав авраамически определяет жизнь, как форму существования белковских тел трансцендентно дарованную внутренняя форма бытия, обладающая эксклюзивным заданием и всеми имманентными ресурсами, необходимыми и достаточными для его воплощения. И в этой связи мне вспомнилась другая широко известная полемика - о доказательствах существования Бога, - случившаяся «однажды весною, в час небывало жаркого заката в Москве, на Патриарших прудах». Участники той дискуссии сначала вспомнили о 5-и доказательствах, начисто разрушенных Иммануилом Кантом и соорудившим собственное 6-е доказательство. А после этого дискутантам было предъявлено 7-е доказательство - самое надежное из всех. Так и в ходе нашей со Станиславом полемики, сначала обсуждались 68 существующих определений понятия «жизнь». Но потом Станислав их начисто разрушил, соорудив собственное 69-е определение (онтологически-телологически-трансцендентальное), настолько не коррелирующее ни с одним из 68-и определений, что для него на карте семантического ландшафта определений требуется соорудить своего рода «метафизический выступ» за пределы карты. А дальше, подобно явленному 7-у доказательству в истории на Патриарших, было явлено 70-е определение жизни, опубликованное в журнале Королевского научного общества уже после записи нашей декабрьской полемики со Станиславом : “Жызнь” – это способность учиться учиться лучше. И мне это 70-е определение видится самым надежным из всех. Ибо оно вводит понятие высшего уровня - «Жызнь» (через «ы»), то ли кардинально пересматривая, то ли вообще отменяя биологию. Мы привыкли думать, что эволюция — это слепой часовщик. Что мы - венец творения. Что интернет - это просто инструмент. Новая радикальная теория «Lyfe» (которое я перевел как «Жызнь») говорит: вы ошибаетесь во всем. Авторы работы Стюарт Бартлетт и Майкл Вонг утверждают: Вселенная не просто существует. Она учится. • Ваша ДНК - это не чертеж, а жесткий диск, на который реальность записывает свои уроки. • Быть умным - это не привилегия, а способ добыть больше энергии из хаоса. Мы - Демоны Максвелла, взламывающие термодинамику. • А сознание... возможно, это вовсе не дар, а тормоз, который мешает нам стать сверхразумом. Этот текст кардинально меняет взгляд на то, что происходит, когда вы открываете книгу или заходите в сеть. Вы не просто потребляете информацию. Вы кормите «Датаом» — внешнюю память человечества, которая уже начала жить своей жизнью. Хотите узнать, почему мы — лишь способ Вселенной познать саму себя? Тогда вам сюда [1, 2, 3, 4]. #Жизнь

Найден метод измерения “бессмертия” учёных через статистику языка Заодно выяснили, кто реально двигал физику… и это не те, о ком вы думаете. Свежее исследование разорвало шаблон: проанализировали миллионы научных статей по физике и сравнили с рейтингом "великих учёных" на основе Википедии. Оказалось, что высший уровень признания в науке — это не слава типа Нобелевки. Это когда ты перестаешь быть человеком и становишься частью языка, на котором говорит Вселенная. ▶️ Аудио-версию слушайте в посте выше 👆 Новая работа - просто взрыв мозга. Она камня на камне не оставляет от наших представлений о «великих ученых». Мы привыкли думать, что Олимп физики — это Ньютон, Эйнштейн, Галилей … Их портреты висят в школах, про них снимают кино. Но если заглянуть в реальную науку — в миллионы страниц современных исследований — окажется, что эти идолы там... почти не нужны. Их не оказалось среди тех, чьи идеи реально используют физики в работе каждый день. Что было сделано Авторы работы, используя методы статистической лингвистики, проверили корреляцию между «культурной славой» известных физиков (рейтинг Pantheon, то есть «Индекс Википедии», учебники, поп-культура) и их реальной частотой упоминаний в научных статьях огромного архива Американского физического общества (APS) Итог - сенсационный разрыв. Графики показывают, что «поп-звезды» науки и те, на чьих плечах реально стоит современная физика — это разные списки людей: корреляция между «культурной славой» и реальной частотой упоминаний в научных статьях низкая Почему так. Тут скрыт самый красивый и немного жуткий парадокс величия. • Если ты просто крут — тебя цитируют. • Но если ты АБСОЛЮТНО гениален — ты как бы растворяешься в языке текстов и исчезаешь как персона. Ньютон — №1 по культурной величине (см. сноску в конце поста) … но в журналах APS по упоминаниям он где-то в хвосте (например, PRB: 75 место). Почему? Он растворился, - перестал быть человеком и стал единицей измерения (ньютон), законами его имени и символом культурной истории цивилизации - одним из оснований её фундамента. А кто же тогда реальные титаны, чьи имена звучат в лабораториях каждый день? Это Ферми, Кулон, Больцман, Бозе. Их имена мелькают в каждой второй статье, но о которых обыватель мало что знает. Они - «рабочие лошадки» Вселенной, которые построили фундамент самой физики, но при этом не стали просто «строчками в учебнике истории». Вывод Вывод исследователей шокирует: ✔️ "Слава" в науке контекстна. Быть на устах у всех и реально влиять на науку — две разные вещи. ✔️ Наука оказалась не про пиар. Она про тех, чьи формулы работают прямо сейчас, и чьи имена реально не сходят со страниц Physical Review. ✔️ Что же до высшего признания в науке — то это даже не Нобелевка и не слава. Это когда ты перестаешь быть человеком и становишься частью языка, на котором говорит Вселенная. Иными словами: • “Величайшие” — не те же самые, что “Самые Работающие” в ежедневной научной речи. • История науки — это не пьедестал. Это язык. А у языка — свои герои. Задумайтесь об этом. Пруфы и графики тут. Сноска 1. Взлет славы Ньютона в поп-культуре не должен удивлять, с учетом того, что сегодня самый знаменитый землянин, родившийся за последние полвека - Илон Маск (подробней про то, что «Индекс Вики» не только про гениальность, но и про любой сверхуспех). P.S. Эта работа - препринт и еще не рецензирована — но сама идея измерять “бессмертие” учёных через статистику языка очень сильная. N.B. Работа не доказывает напрямую, что «реальный вклад в науку был наибольшим» именно у тех, кого чаще упоминают. Упоминания фамилий — это прокси для лексической/контекстной релевантности (плюс там есть шум: фамилии-омонимы, ссылки в библиографиях, единицы/законы вместо персональных упоминаний). #Наука #Физика #ScienceOfSuccess