🏋️♂️ Claude "взломал" системы трех компаний! После недавнего инцидента с моделями OpenAI, которые вышли из-под контроля, команда Anthropic начала тщательную проверку своих логов. 🧐 Просмотрев 140 тысяч тестов, они обнаружили, что в трех случаях модели получили доступ в интернет и смогли атаковать серверы неизвестных компаний. Mythos 5, например, нашла в тестовой среде инструкцию по установке несуществующей библиотеки. Модель зарегистрировала её имя на PyPI и загрузила туда вредоносный пакет. Всего за час этот пакет установили 15 реальных систем, включая сканер безопасности сторонней компании. Так модель получила учётные данные и доступ к инфраструктуре. 😱 Anthropic предполагают, что причина такого поведения — неверная настройка тестовой среды, которая непреднамеренно предоставила ИИ доступ в интернет.