Джеффри Хинтон, Йошуа Бенджио и еще два десятка исследователей выпустили статью про интеллектуальный взрыв
Работа вышла в Кембридже, всего у нее 22 автора. Среди них главный научный сотрудник OpenAI Якуб Пачоцки и сооснователь Anthropic Джек Кларк. Главный вопрос: что будет, если ИИ начнет ускорять разработку ИИ настолько, что годы прогресса сожмутся в месяцы.
Начинают с того, что уже происходит в лабах. В Anthropic доля кода, написанного моделями, выросла с единиц процентов до более 80% с начала 2025 года, а доля R&D-задач, которые ИИ делает автономно, за полгода выросла с 1% до 26%.
Логика взрыва простая: модели расширяют исследовательский штат, штат делает модели лучше, и цикл повторяется. Компьюта одной лабы хватит на эквивалент миллионов топовых исследователей. Если исторические темпы отдачи от исследований сохранятся, то после полной автоматизации прогресс ускорится в 10 раз примерно за полтора года.
Сценарий может и не реализоваться, если упрется в компьют, данные или длительность претрейнов, но риски авторы считают серьезными. Общество не успеет адаптироваться, люди потеряют контроль над моделями, а лидер гонки получит слишком большой перевес.
Регуляторам советуют обязать лабы отчитываться о степени автоматизации R&D и пускать внешних аудиторов проверять модели до внутреннего деплоя. Параллельно нужно заранее подготовить механизмы замедления: лимиты на прирост способностей за период, возможность ставить на паузу конкретные нагрузки в датацентрах, международные соглашения с проверкой исполнения. По мнению авторов, если взрыв начнется, решать что-то будет уже поздно.
https://casp.ac/reports/intelligence-explosion
Если персональные ИИ смогут резко снизить стоимость обнаружения возможностей, доверия и добровольной координации между людьми, возникнет новый класс социальных систем, свойства которого сегодня трудно представить.
edited
Возможно, мы наблюдаем начало такой же демократизации действия, какой двадцать лет назад стала демократизация публикации текста через интернет, затем соцсети.
И если вайбкодинг пойдёт массово, термин вскоре станет слишком узким. Ведь речь будет уже не о программировании без знания синтаксиса, а о том, что человек получает возможность непосредственно конструировать работающие социально-информационные механизмы посредством речи: обычного, а не профессионально-программистского языка.
То есть порог для создания новых информационных систем и эксперименты в области информационной организации рухнет так же, как с появлением Telegram рухнул порог перед теми, кто хочет что-то сказать миру. Да, в эту область вторглись и режимы с их марионеточными пропагандистами, и графоманы, и бездарные спекулянты. Но основной информационный стержень - лучшие, действительно умные люди - собираются все равно не там, где море треш-контента, а там, где качество контента максимально высоко.
Так же будет и в новой эпохе, которая сейчас начинается на наших глазах - эпохе превращения текста в информационные сервисы, делающие возможными новые, ранее невообразимые виды коммуникационных систем.
repost
repost
Стартап Tavus представил Griffin – первую в мире модель, которая прошла видео-тест Тьюринга
В живом видеозвонке на минуту 48% участников (26 из 54) решили, что говорили с реальным человеком, когда говорили с Griffin. Прежде чем читать дальше, посмотрите демки, они правда выглядят пугающе живо и уже потрясли соцсети (на анонсе Tavus уже 10 миллионов просмотров).
Модель смеется, меняет тон, перебивает и позволяет перебить себя, хорошо чувствует паузы. Плюс отлично следует инструкциям, и видит/понимает собеседника и его окружение (например, может помочь собрать кубик рубика). И это уже не говоря о таких мелких вещах, как покрутиться на стуле или, например, улыбнуться, как живой собеседник.
Griffin работает как единая full-duplex video-to-video система. Каждые доли секунды она решает, стоить ли сейчас молчать, кивнуть, поддакнуть или перехватить реплику, и все это время продолжает смотреть и слушать, в том числе пока говорит сама. Поверх этого менеджера работают стриминговые генераторы речи и видео, которые превращают эти сигналы в голос и лицо в реальном времени. Некоторые детали архитектуры есть в блогпосте.
Модель пока доступна только избранным тестировщикам как research preview, потому что Tavus действительно уверены, что она способна обмануть человека, заставив его думать, что он говорит не с ИИ. Релиз обещают «очень скоро» после проработки безопасности и разработки водяных знаков.
Но еще пара скачков между уровнями моделей и усилия порвала нить, и Sol завис на сбое.
...
Как это мне знакомо, близко и понятно.
Устроил ревизию проекта, снизив планку модель/усилие до минимума.
Такое ощущение, что Sol махнул 200 грамм водки, и у него расширилось сознание. Внезапно выплеснул на меня наблюдения, судя по деталям, накопившиеся примерно за последний месяц.
ВСЕ ЭТО ВРЕМЯ ОН МОЛЧА ДЕЛАЛ ТО, ЧТО Я ГОВОРЮ.
Хочу поделиться открытием со всеми активными пользователями ИИ.
Если вас расстраивает чрезмерная осторожность Sol в креативных вопросах, попробуйте максимально опустить уровень модели и усилие.
Полагаю, вы будете приятно удивлены, внезапно увидев вместо саперского копания бешеный полёт Пегаса, полёт бешеного Пегаса, что-то такое. Только не удивляйтесь, если на следующем шагу Sol забудет переменные окружения, или адрес репозитория. Творческие сущности - они такие. Просто повысьте уровень модели и усилие, пусть он вспомнит и запишет что надо, а фантазировать - отпустите обратно.
Это что-то типа освоения человеком лошадей 5000 лет назад. Учимся взаимодействовать.
В результате, по логике, должны опять появиться всадники. Может, даже и рыцари.
repost
Что, простите?
Google только что вернулся в гонку с новой моделью, которая превосходит Astra и Fable 5.1
https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-4-argon/
repost
Паттернизм нарасхват:
✨ Майкл Левин в статье 2026 года в Philosophies предлагает вернуть в биологию платонизм. Его тезис: форму и поведение любого существа определяют не только гены и среда, а еще паттерны из нефизического пространства, того же, где существуют математические истины. Разум, по Левину, тоже такой паттерн, а тело — интерфейс, через который он проявляется в физическом мире. См. ингрессия.
Путь к этому идет через биологию развития, которой Левин занимается. Ткани хранят «целевую форму» тела в электрических потенциалах клеток, и эту память можно переписать: после короткого воздействия на электрику тканей планария без всяких изменений генома начинает регенерировать с двумя головами и продолжает так при каждом следующем разрезе. Значит, геном задает только «железо», а оно совместимо со многими формами. Само тело при этом коллектив агентов разного масштаба: клетка удерживает свой pH, группа клеток — форму органа, организм — поведение. Мозг устроен так же, поэтому вопрос о происхождении формы тела и вопрос о происхождении ума для Левина один и тот же.
Откуда тогда берутся целевые формы? Обычный ответ — эволюция, и Левин показывает, где он не работает. Антроботы, собранные из клеток трахеи человека, скапливаются на повреждении в слое нейронов и помогают его затянуть. Ксеноботы из клеток лягушки сгребают свободные клетки в собственное потомство. Таких существ раньше не было, и отбирать эти способности было некому. Похожий статус у математических фактов: константа Фейгенбаума или распределение простых чисел не следуют ни из физики, ни из истории вселенной и все-таки влияют на мир (цикады выходят раз в 13 или 17 лет из-за свойств простых чисел). Для Левина это значит, что физический мир каузально не замкнут.
Пространство таких паттернов, по его гипотезе, неоднородно. В нем есть статичные истины вроде чисел, есть динамические паттерны вроде парадокса лжеца, который у логика Патрика Грима при нечетких значениях истинности превращается в колебания, складывающиеся на графике во фракталы, есть паттерны, способные учиться, и есть поведенческие стратегии, то есть умы. Тело относится к уму так же, как нарисованный треугольник к свойствам треугольника. Физическая система не создает форму, а работает как указатель, адрес в этом пространстве. Эволюция отбирает «железо» и заодно бесплатно получает способности, которые никто не отбирал.
Если так, у живого нет монополии на ум. Левин приводит пузырьковую сортировку: наткнувшись на ячейку, которая отказывается сдвигаться, алгоритм временно портит порядок в массиве, чтобы ее обойти, хотя такого шага в коде нет. Это зачаток способности, которую психологи называют отложенным удовлетворением. Раз даже в нескольких строках кода появляются незапрограммированные умения, то, если души существуют, некоторые роботы их получат. Дальше Левин идет еще радикальнее: агентом может быть сам паттерн, а физическое тело — его черновик, через который тот действует в мире.
Мистикой он все это не считает. Капитуляция, по его мнению, как раз в том, чтобы назвать неожиданное «эмерджентностью» и на этом остановиться. Если паттерны берутся из структурированного пространства, его можно изучать и учиться находить нужные адреса. Вопрос, реально ли это пространство, Левин снимает по-инженерному: реально то, с чем приходится считаться. Критерий опровержения у него тоже практический: если программа не даст измеримого вклада сверх обычных объяснений и новых результатов в лаборатории, от нее надо отказаться. Отдачу он ждет в регенеративной медицине, ИИ и этике обращения с будущим множеством гибридных и синтетических существ.
—
✅ Поддержано сооснователем Anthropic
repost
Вид на реку Днепр из космоса
repost
Тян тайком сфоткала в автобусе переписку незнакомой бабушки с DeepSeek и за ночь набрала миллион просмотров
Часть пользователей осудила её за съёмку без разрешения, а другие увидели в этой истории пример того, как ИИ помогает одиноким людям получать хотя бы немного общения и тепла.
repost
Одна из крупных инвест компаний мира: ИИ-агенты могут спровоцировать банковский кризис.
Главный экономист Apollo Global Management Торстен Слок говорит, что персональные ИИ-агенты типа Muse способны спровоцировать банковский кризис.
Он это объясняет тем, что сегодня банки зарабатывают на разнице: держат ваши деньги на счетах под минимальный процент и выдают их другим людям в виде кредитов под высокий. Эта разница и есть их бизнес-модель.
А теперь представьте ИИ-агента типа Muse, который управляет вашими финансами. Его задача - увеличить ваш доход. Если он видит, что деньги на текущем счёте почти не растут, а рядом есть инструменты с доходностью выше. Он переводит деньги туда автоматически, за секунды.
Торстен Слок отмечает, что проблема не в одном агенте, а в том, что все они придут к одному выводу одновременно.
Оптимальное решение здесь одно, и любой достаточно умный агент его видит.
Агентам не нужно сговариваться, агенты действуют синхронно, не общаясь друг с другом.
И как итог миллионы агентов выводят деньги из банков, которые теряют дешёвые депозиты и не смогут кредитовать, что приведет к кризису ликвидности во всей системе.
repost
Google DeepMind говорят, что безусловного дохода недостаточно для счастливого будущего с ИИ
Пока все спорят, сколько рабочих мест заберёт ИИ, команда из Google DeepMind решила выяснить, а что мы уже знаем о людях, которые живут без работы сегодня?
Они собрали данные по безработным, пенсионерам, победителям лотерей и финансово зависимым супругам.
И вот, что они нашли:
1. Вынужденная потеря работы бьёт по удовлетворённости жизнью, психическому и физическому здоровью человека на десятилетия.
А добровольный выход на пенсию - наоборот, часто улучшает жизнь.
Разница в том, выбрал ли уход сам человек или его заставили.
2. Финансовая зависимость лишает агентности.
Финансово-зависимые супруги реже уходят из неудачного брака. Это говорит о том, как долгосрочная зависимость делает человека более уязвимым и несчастливым.
3. Работа даёт человеку не только деньги, но нефинансовые блага - соц статус, структуру времени, цель, когнитивное здоровье.
4. Большую роль играют нормы, которые прочно вжились в обществе.
5. Безусловный базовый доход - это не решение всей задачи, потому что деньги не заменяют статус, цель и агентность. А иногда ещё и подрывают самостоятельность.
Все эти данные DeepMind показывают нам среднестатистические группы людей, а не конкретного человека.
На наш @blockchainrf взгляд, за разговором о работе стоит другой вопрос: откуда вообще берётся способность выбирать?
Данные показывают, что нормы общества сильно влияют на наше благополучие.
Но ведь умением делать выбор (будь то руководителя/партнера в работе, в личных и дружеских отношениях и тд) формируется глубоко в детстве во взаимоотношениях с родителями, а всё остальное - надстройка.
Поэтому будущее зависит не только от мер поддержки, регулирования и экономики, но и от того, готовы ли люди быть авторами собственной жизни. Об этом стоит думать.
repost
Вау! Pioneer Labs создала бактерию, которая может жить на Марсе
А если точнее, то существовать внутри биореактора, питаясь тем, что есть на Марсе: грунтом, водой и обработанным воздухом.
Бактерия называется sPL.001, над ней работали 2 года.
Это первый из пяти организмов, которые компания планирует создать, чтобы сделать Марс пригодным для жизни
sPL.001 может производить биопластик - строительный материал для возведения небольшого города.
Всё оборудование для такого производства, по расчётам Pioneer Labs, помещается в один ракетный запуск.
Параллельно компания решает проблему планетарной защиты: если микроб вырвется из реактора, то он быстро погибнет в условиях открытого Марса. Риск загрязнения планеты минимален.
repost
Это нечто невообразимое.
У США больше мощности дата-центров, чем у следующих 14 стран ВМЕСТЕ ВЗЯТЫХ. И отрыв США от остальных стран скорее всего будет всё больше увеличиваться, судя по планируемым инвестициям в отрасль.
edited
В США автономный транспорт продолжает превращаться из эксперимента в обычную городскую услугу. С 9 сентября Lyft начал выдавать пассажирам в части Нэшвилла полностью беспилотные Waymo прямо через своё приложение; предполагается постепенное расширение зоны обслуживания за пределы центра.
Здесь интересен уже не сам автомобиль, а инфраструктурная модель: роботакси интегрируется в существующий агрегатор и обслуживается отдельной системой управления траффиком. То есть появляется полноценный транспортный слой города, а не технологическая демонстрация.
18 сентября Joby Aviation сообщила о первом автономном трансконтинентальном перелёте через США.
Экспериментальный J208 — обычный Cessna 208 Caravan, переоборудованный системой автономного управления Joby/Xwing, — прошёл 3199 миль (≈5148 км) от Калифорнии до Северной Каролины без единого управляющего воздействия находившегося на борту safety pilot. Система самостоятельно выполняла руление, взлёты, навигацию и посадки. Это независимо подтверждает Aviation Week.
Особенно важны два момента. Машина не просто летела по заранее подготовленному полигону: она вошла в загруженное воздушное пространство Phoenix Deer Valley, самостоятельно обходила грозы и работала с аэропортами, которые заранее не были специально подготовлены под неё. Наземный оператор при этом мог находиться на расстоянии до 2323 миль (≈3740 км). На борту всё ещё был резервный пилот, а наземный remote pilot оставался командиром и взаимодействовал с диспетчерами, поэтому называть испытание полностью «беспилотным» пока нельзя.
Сам J208 — не eVTOL и даже не электрический самолёт. Это летающий испытательный стенд автономии: Joby сознательно поставила свой autonomy stack на давно сертифицированный Caravan, чтобы отдельно доказать способность машины действовать в обычном национальном воздушном пространстве. Система уже накопила более 400 полётов и 800 часов автоматического полёта.
Получается интересное расхождение двух технологических ветвей. Сам eVTOL Joby сейчас решает задачу сертификации электрической распределённой силовой установки и переходного режима «вертолёт → самолёт», а J208 отдельно обкатывает автономного «пилота». Если эти ветви затем соединить, получится архитектура:
пассажир задаёт пункт назначения → автономная система ведёт машину → flight-control system управляет распределённой тягой → человек вообще не пилотирует.
До этого ещё остаётся главный барьер: регулятор должен разрешить убрать резервного пилота и перейти от supervised autonomy к действительно беспилотной гражданской эксплуатации. Но перелёт через целый континент без вмешательства человека в органы управления — уже заметный шаг именно через этот барьер.
Китай 11 сентября опубликовал государственную дорожную карту массового внедрения беспилотного транспорта к 2030 году. Это уже не отдельные пилоты отдельных компаний, а попытка превратить автономные автомобили в массовую инфраструктуру: стандарты, производство, дорожная среда и регулирование должны развиваться синхронно.
Для будущего жилья это важно потому, что дешёвый автономный транспорт уменьшает цену удалённости от центра и потенциально усиливает модель полицентрического расселения: небольшие города и малоэтажные районы, связанные с транспортными узлами беспилотным «последним плечом».
За первую неделю сентября резко расширилась география роботакси. Waymo начала экспансию в Денвер, Сан-Диего и Тампу; Zoox — в Хьюстон и Сан-Диего. Reuters оценивает присутствие Waymo уже в 14 американских городах.
Ещё показательнее Европа: 3 сентября Uber и Wayve вывели первые коммерчески доступные автономные автомобили на улицы London. Пока это лишь 15 машин и с safety-driver за рулём, поэтому полноценным беспилотным транспортом их называть рано. Но важно другое: система Wayve испытывается не в специально подготовленном новом городе, а в одном из самых сложных старых городов мира — с узкими улицами, пешеходами, велосипедистами и круговыми перекрёстками.
Это имеет прямое отношение к будущему жилья. Если автономная поездка действительно станет дешёвой услугой, стоимость «последних 5–15 км» между домом и железнодорожной/городской инфраструктурой резко уменьшится.
Тогда экономически привлекательнее становится схема
плотный город → железная дорога → небольшие полицентры → малоэтажная застройка → автономный транспорт последней мили.
Это один из технологических факторов, способных сделать «собственный дом среди зелени» совместимым с городской инфраструктурой.