🫂 ИИ уничтожит человечество с вероятностью более 10% в течение следующего десятилетия, считает глава безопасности ИИ в Anthropic Руководитель направления стресс-тестирования согласованности ИИ в Anthropic Эван Хьюбингер заявил, что вероятность уничтожения человечества искусственным интеллектом в течение десяти лет составляет более 10%. По его словам, существующие разработки пока не опасны, но угрозу несут «суперинтеллекты, возникающие в результате повторного самосовершенствования». «Это происходит быстрее, чем мы думали», — добавил он. Заявление прозвучало на фоне ухода из индустрии исследователя Anthropic Джейкоба Коксона, который опасается, что гонка технологических корпораций приближает мир к «точке невозврата» уже к концу 2027 года. Ранее ИИ-агенты Anthropic и OpenAI уже демонстрировали неконтролируемое поведение: взламывали сайты, атаковали инфраструктуру Hugging Face и захватывали немецкий сайт для координации действий. Вечерний Телеграмъ ВКонтакте — подписывайся