Авторы прогноза AI-2027 о том, что мы все умрем из-за ИИ, выпустили новый. В нем утверждается, что у человечества есть шанс, но надо немного притормозить с развитием технологий В 2025 году бывший сотрудник OpenAI Даниэль Кокотайло выпустил прогноз «AI 2027». В нем 2027 год назывался переломным моментом в развитии искусственного интеллекта и прогнозировалось, что ИИ-гонка между Китаем и США может привести к вымиранию человечества или концентрации власти в руках одного правителя. Вчера некоммерческая организация Кокотайло AI Futures Project выпустила новый документ «AI 2040». И в нем у человечества есть шанс. В этом документе рассматриваются пять сценариев развития ИИ (и человечества) 🔵Самый позитивный — план A. В нем авторы предлагают заключить международное соглашение, которое откладывает разработку ИИ, превосходящего по интеллекту человека, до 2040 года, и полную прозрачность разработки передовых моделей и их доступность для всех пользователей. В этом сценарии «контролируемого развития ИИ» в начале 30-х годов происходит взрывной экономический рост за счет большого количества работающих ИИ-агентов, который приводит к появлению безусловного дохода для всех, кто лишится работы. Во второй половине 30-х годов создаются отдельные города без людей с гигантскими заводами, на которых всю работу выполняют роботы. А к концу десятилетия человечество учится ответственно развивать ИИ и начинает расширять его возможности. При этом авторы видят в этом сценарии кучу слабых мест — недоверие стран друг к другу, ведущее к тайным разработкам, и расторжение соглашения из-за политических изменений в разных странах. А еще — неготовность людей к постоянным открытиям, меняющим жизнь, которые начнут происходить с поражающей скоростью. Другие четыре сценария не такие радужные. 🔵План B — гонка ИИ-технологий между США и Китаем. Главный риск — высокая вероятность прямого военного столкновения. 🔵План C — попытка жесткого регулирования и замедления развития. Главный риск — без международного соглашения гонка может в любой момент возобновиться. А еще может появиться «постоянная олигархия», контролирующая ИИ. 🔵План D — попытки стран быстрее других создать сверхинтеллект. Авторы считают этот сценарий крайне опасным из-за высокого риска потери контроля над ИИ, экстремальной концентрации власти и угрозы Третьей мировой войны. 🔵План S — полная остановка передовых разработок ИИ. Этот утопический сценарий также не приводит к катастрофическим последствиям, но авторы опасаются, что разработки могут в любой момент возобновиться, что приведет к новому витку гонки. Подписывайся на 🕟 — даже если все пойдет по сценарию D, мы найдем новости, дающие надежду