⚠️ Создатели ведущих ИИ заговорили об угрозе человечеству В индустрии искусственного интеллекта развернулась дискуссия о потенциальных рисках развития технологии после заявления 27-летнего исследователя Джейкоба Кокстона, который за последние три года работал в OpenAI и Anthropic. Его публикация об увольнении набрала более 140 миллионов просмотров и вызвала реакцию представителей отрасли. Опасения из-за гонки разработчиков ИИ По словам Кокстона, технологические компании пренебрегают базовой осторожностью ради победы в глобальной конкурентной борьбе. Он утверждает, что разработчики осознают возможные последствия продолжающейся гонки. «Люди, которые создают ИИ, искренне верят, что он может убить нас всех до конца десятилетия». Кокстон также заявил, что в частных разговорах топ-менеджеры признают свои опасения, однако разработка продолжается высокими темпами из-за нежелания уступать лидерство конкурентам. Руководитель направления безопасности Anthropic оценил риск выше 10% На заявление Кокстона отреагировал Эван Хубингер — действующий руководитель направления безопасности Anthropic. Он публично подтвердил наличие подобных опасений и привёл собственную оценку риска. «Джейкоб прав, мы действительно искренне считаем, что ИИ может убить всех людей. Лично я оцениваю вероятность этого в ближайшее десятилетие выше 10%. Я верю, что Anthropic делает всё возможное, но у нас пока нет плана, как решить задачу безопасности для сверхинтеллекта, и мы явно не движемся к тому, чтобы его получить». Таким образом, представители индустрии публично говорят о потенциальных экзистенциальных рисках искусственного интеллекта. При этом, согласно заявлению Хубингера, у Anthropic пока нет плана решения задачи безопасности сверхинтеллекта. @fin_rus #Финляндия #ИскусственныйИнтеллект #ИИ #БезопасностьИИ #Сверхинтеллект #Технологии #OpenAI #Anthropic #ДжейкобКокстон #ЭванХубингер #ChatGPT #Claude