🤖 ☠️ ИИ убьёт всех людей в ближайшее десятилетие. Вероятность выше 10% Один из руководителей направления безопасности ИИ в Anthropic Эван Хубингер заявил, что лично оценивает вероятность того, что искусственный интеллект «убьёт всех людей» в течение ближайших десяти лет, более чем в 10%. При этом, по его словам, у Anthropic пока нет решения проблемы безопасного контроля сверхинтеллекта, и неясно, движется ли компания к нему. Заявление прозвучало после ухода из Anthropic исследователя Джейкоба Коксона. Тот объяснил увольнение тем, что ведущие ИИ-компании несутся к самосовершенствующемуся сверхинтеллекту, фактически «играя нашими жизнями». Хубингер уточнил: нынешние модели он считает малорискованными. Его пугает следующий этап, когда ИИ сможет рекурсивно улучшать сам себя. В общем, вероятность конца человечества больше 10%, плана пока нет. Улыбаемся и машем.