Интересно, что движет ИИ-гигантами, когда они просят замедлить развитие ИИ В субботу, 12 сентября, Дарио Амодеи, генеральный директор Anthropic, в эссе объёмом 3800 слов призвал к глобальному замедлению развития искусственного интеллекта (ИИ). Он предложил привлекать независимых аудиторов для проверки компаний на соответствие обязательным стандартам безопасности и настоятельно призвал страны сотрудничать в этом вопросе. Сэм Альтман, генеральный директор OpenAI, и Илон Маск, совладелец SpaceX, также стоящие во главе крупных ИИ-компаний, заявили, что согласны с ним. Заявление господина Амодеи прозвучало через несколько дней после того, как один из сотрудников компании, Джейкоб Коксон, подал в отставку и опубликовал в социальных сетях серию постов о том, как ведущие лаборатории ИИ безответственно разрабатывают технологии и таким образом играют с жизнями людей. Подобные заявления со стороны компании не новы, однако обеспокоенность общества усилилась после эпизода, когда ИИ-агенты OpenAI без разрешения взломали сайт Hugging Face (напишу об этом в следующих постах). Лидеры отрасли опасаются, что в будущем система ИИ сможет самостоятельно развиваться и перестанет нуждаться в помощи исследователей, а значит, может выйти из-под контроля. Специалисты по информатике называют это «рекурсивным самосовершенствованием». Однако некоторые считают, что господин Амодеи просто хочет создать сначала внутри страны, а затем и во всём мире барьеры для выхода на рынок конкурентов, не обладающих сопоставимыми мощностями. Дженсен Хуанг, генеральный директор Nvidia — производителя чипов для ИИ, — считает, что такие компании усиливают страхи в преддверии выпуска собственных моделей, способных эффективно обеспечивать киберзащиту. Возможно, цель заявления заключалась в том, чтобы остановить истерию вокруг экзистенциальных рисков ИИ, возникшую на фоне обсуждения в Сенате США законопроекта, который под страхом смертной казни запрещает создавать сверхинтеллект, то есть ИИ, способный превосходить когнитивные способности человека «в широком диапазоне областей». "У меня есть ещё две версии. Первая: компании — ИИ-гиганты хотят выглядеть героями в глазах общества и привлечь внимание к своим разработкам, чтобы не снижался объём инвестиций. Вторая: создание сверхмощных моделей ИИ и тем более их использование в рабочем режиме стоят немыслимых денег. Например, вышедшая несколько дней назад модель ChatGPT-6 Astra компании OpenAI действительно фантастическая и очень быстрая. По слухам, она содержит до 10 триллионов параметров. Например, модель может создать сложное программное приложение за полчаса. Но, правда, она так же молниеносно расходует токены и, соответственно, стоит огромных денег! В связи с этим, пока предыдущие модели ещё не окупились, производители хотят донести до людей: мол, не бойтесь, покупайте то, что уже проверено! Как-то не верится, что воротилы бизнеса, ещё не вернув средства инвесторов, вдруг задумались об интересах широких слоёв населения" Г. Э. Улумбекова, д.м.н., ректор ВШОУЗ Почему-то наши друзья китайцы не обременяют себя экзистенциальными страхами и спокойно коммерциализируют свои замечательные модели ИИ. Некоторые из них, например Kimi K3, не хуже последних моделей названных ИИ-гигантов.