Покинувший компанию Anthropic исследователь ИИ Джейкоб Коксон бьет тревогу, называя нейросети самой опасной технологией, когда-либо созданной человеком Свои опасения Коксон опубликовал в X. Он сообщает, что сейчас многие разработчики ИИ искренне убеждены, что их детище сможет погубить все человечество уже к концу десятилетия. При этом понимание опасности и тревога есть и в руководящем звене: для прессы руководители подбирают «разумные выражения», а в кулуарах говорят совсем другое, заявляет исследователь. Джейкоб подчеркивает, что сейчас ни одна другая человеческая деятельность и близко не несет такой степени опасности, как разработка и совершенствование ИИ. Исследователь заверяет, что многие разработчики сами не имеют строгого понимания разума ИИ-моделей, которые собирают. При этом даже понимание всех рисков не останавливает компании по разработке ИИ в технологической гонке. Коксон заверяет, что каждый игрок здесь считает себя ответственнее другого и не собирается упускать возможности и поворачивать назад, исследуя новые берега развития искусственного интеллекта. По мнению Джейкоба, решения о развитии ИИ не должны приниматься условной кучкой управленцев в корпоративном чате. Исследователь отмечает, что инцидент со взломом нейронкой платформы Hugging Face может сделать более жизнеспособными соглашения между ИИ-лабораториями о сдерживании темпов развития нейросетей. Коксон призывает исследователей «подумать, каково будет следующие несколько лет» и предлагает рассмотреть временный запрет на наращивание возможностей ИИ-моделей. Тот самый ученый из фильмов, который предупреждает об опасности, но его пока не слушают. Это Борус | Мы в MAX