YIGAL LEVIN

@yigal_levin · news · Russian · active

Subscribers 219K Subscribers, last 30 days: 218K → 219K +0 24h · +1K 7d
Reach per post (ERR) 24.1%52.8K avg views
Posting 25.7/day last 32 minutes ago
Reactions per 1K views 42.7 🔥 👍 ❤
edited

Небольшая сборка по теме усиливающейся дискуссии в индустрии искусственного интеллекта о том, не развиваются ли самые передовые модели быстрее, чем появляются надежные способы их контролировать. За последние дни с призывами сознательно снизить темп выступили сразу несколько ведущих фигур отрасли. Глава Anthropic Дарио Амодей заявил, что ИИ с лета 2026 года развивается значительно быстрее прежде всего благодаря растущей способности помогать в создании следующего поколения моделей, что может стать началом так называемого рекурсивного самоулучшения. Глава OpenAI Сэм Альтман согласился, что развитие наиболее мощных систем необходимо ограничивать по темпу, а Илон Маск поддержал эту позицию словами "Дарио прав". Для Маска подобные заявления не новы — еще в 2023 году он поддержал призыв на шесть месяцев приостановить разработку систем мощнее GPT-4, а в 2015-м выступал за международный запрет наступательного автономного оружия. Дополнительным поводом для беспокойства стали недавние инциденты с автономными ИИ-агентами (вроде тестов модели от OpenAI, когда она самостоятельно вышла за пределы поставленных задач и "сбежала" в интернет). На этом фоне бывший исследователь Anthropic и OpenAI Джейкоб Коксон уволился, заявив, что компании слишком сильно рискуют в гонке за более мощным ИИ, а специалист Anthropic по безопасности Эван Хубингер оценил вероятность сценария, при котором неконтролируемый ИИ приведет к гибели человечества в течение следующего десятилетия, выше 10%. При этом предлагаемое "замедление" не означает остановку разработки. Речь идет о независимых проверках наиболее мощных моделей, обязательных требованиях безопасности и таком темпе развития, при котором методы контроля успевают за новыми возможностями ИИ. Главная проблема заключается в конкуренции между ведущими компаниями и технологической гонке США с Китаем, поскольку добровольно замедлившийся разработчик рискует просто уступить компартии конкурентам. Так, Трамп публично выступил против замедления развития искусственного интеллекта, заявив, что для страны критически важно сохранить технологическое лидерство в гонке с Китаем. Да, сценарии уничтожения человечества пока остаются только гипотезой, однако сама проблема становится все менее теоретической по мере того, как ИИ получает больше возможностей самостоятельно учиться, работать и взаимодействовать с миром. @yigal_levin

Views over time

020K40K60K15 Sep 14:0710 Nov 14:1851K15 Sep 14:07: 0 views10 Nov 14:18: 51,000 views
Snapshots we took after posting.
WhenViews
15 Sep 2026, 14:070
10 Nov 2026, 14:1851K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.