Пост исследователя Anthropic вызвал очень много обсуждений, и самое интересное — мнение специалиста по безопасности Claude Эвана Хьюбингера. Он оценивает шанс того, что ИИ может привести к гибели человечества в ближайшие 10 лет, примерно в 10%. По его словам, нынешние модели сами по себе пока не выглядят настолько опасными, но они слишком быстро развиваются и всё активнее обучаются на данных, которые генерируют сами. В какой-то момент такие системы теоретически могут стать слишком сложными для контроля человеком. Страшно, выключайте ИИ 😐