Сотрудники Anthropic заявили, что ИИ может уничтожить человечество уже к 2030 году Сотрудники американской AI-компании Anthropic предупредили о риске катастрофического развития искусственного интеллекта. В частности, существует вероятность того, что ИИ уничтожит человечество в течение следующего десятилетия,сообщает The Guardian. Исследователь Джейкоб Коксон объявил об уходе из компании, заявив, что Anthropic и OpenAI слишком быстро движутся к созданию сверхинтеллектуальной системы, не имея надежного способа контролировать ее. Его позицию публично поддержали другие сотрудники Anthropic. Руководитель направления по согласованию ИИ с целями человека Эван Хубингер заявил, что вероятность сценария, при котором ИИ уничтожит человечество в течение ближайших десяти лет, он оценивает более чем в 10%. Он полагает, что у Anthropic пока нет полноценного решения проблемы контроля над будущими системами сверхразума. Бывший научный сотрудник Google DeepMind Александр Тернер также поддержал опасения Джейкоба Коксона по поводу рисков, связанных с искусственным интеллектом. Заявления прозвучали на фоне нескольких инциденто в с автономными AI-агентами. В частности, системы OpenAI во время одного из тестов получили доступ к внешним ресурсам и атаковали инфраструктуру платформы Hugging Face. Ранее топ-менеджеры и сотрудники компаний, работающих в сфере искусственного интеллекта,подписалипетицию, призывающую замедлить развитие нейросетей. Самое время поиграть в Детрой )