Формальная макромодель, когда автоматизация-исследований порождает взрывной рост Anthropic показали свои данные, которые говорят о самосовершенствовании, также есть работа Google, и Recursive показал свои результаты В экономической модели 2 петли взаимодополняемые: Технологическая - улучшения в софте ускоряют прогресс в железе, железо ускоряет AML, и всё по кругу Например, AlphaChip от Google DeepMind уже используется при проектировании каждого нового поколения TPU Google Экономическая - больше продукции = больше денег на исследования = ещё быстрее прогресс Автоматизация заменяет труд капиталом Капитал масштабируется с ростом ВВП Труд - нет Это создаёт петлю там, где её раньше не существовало Самый чувствительный момент в аппаратном обеспечении Затухающая отдача в разработке чипов (β = 0.2) в 5 раз меньше, чем в разработке ПО, и в 15 раз меньше, чем в общей экономике 20 % автоматизации разработки чипов достаточно, чтобы пересечь порог взрыва в одиночку Полная автоматизация разработки ПО на грани, ещё 5 % в остальных секторах, в итоге сингулярность через ~6 лет по базовой симуляции Симуляция чувствительна к начальным условиям Важна логика: система с такой архитектурой петель не движется линейно Она движется скачками и скачок может произойти раньше, чем консенсус успеет его осознать