ЭХО / Новости

⚫️ Компания Anthropic заявила о перехвате ресурсов нейросети Claude китайскими компаниями и использовании ИИ для шпионажа, мошенничества и разработки оружия Что случилось? Компания Anthropic — разработчик нейросети Claude — выпустила доклад о том, как злоумышленники пытались использовать возможности искусственного интеллекта для вредоносной деятельности. В ряде случаев злоупотребления напрямую были связаны с вопросами безопасности: пользовательские запросы касались кибербезопасности, операций политического влияния, слежки, мошенничества, незаконных биологических разработок, создания оружия и «незаконной дистилляции» — деятельности, направленной на то, чтобы перехватить возможности чужой модели ИИ и воспроизводить их «в промышленном масштабе» без авторизации, в том числе используя для обучения собственных моделей. Китайский след Anthropic выяснила, что китайские компании, в том числе Alibaba, DeepSeek и Moonshot, использовали ресурсы Claude, перенаправляя к нему запросы своих пользователей. В докладе отмечается масштабность усилий китайских компаний, направленных на получение доступа к ресурсам Claude. Так, Moonshot использовала сеть из 5380 аккаунтов, вероятно, зарегистрированных преимущественно в Сингапуре и Японии, которые только за один 10-дневный период перенаправили в Claude почти 300 тыс. пользовательских запросов. За 14 дней в июле Anthropic обнаружила более 12 млн атак, направленных на «незаконную дистилляцию» и исходящих от DeepSeek. Alibaba с мая по июль инициировала 151 млн обменов информацией, также с целью «незаконной дистилляции», используя 3,5 млн фейковых аккаунтов. В одном описанном в докладе случае DeepSeek перенаправлял к Claude запросы ИТ-оператора, который работал с данными российского государственного учреждения, связанного с Минобороны. В этих запросах содержались действующие учётные данные из российской правительственной базы. Подробностей об этом инциденте Anthropic не приводит. «Необычный вектор удара» Специалист по открытым языковым моделям, который поговорил с «Эхом» о значении доклада Anthropic на условиях анонимности из-за репрессивного российского законодательства, отмечает изменение основного сообщения, которое транслирует американский разработчик ИИ. По его мнению, если раньше западные компании обвиняли китайских разработчиков в основном исходя из своих коммерческих интересов, то теперь Anthropic акцентирует внимание на небезопасности китайских моделей для тех их пользователей, которых США и в целом Запад считают враждебными игроками. Подход, использованный в новом докладе Anthropic, он назвал «необычным вектором удара по китайским лабораториям, которые дистиллируют — по сути воруют — результаты работы Claude». С ним согласен глава «Общества защиты интернета» Михаил Климарёв, который назвал это «главным сюжетом». ⚫️ «Данные пошли в обратную сторону. Обычно боятся, что китайское приложение сливает запросы в Пекин. Здесь китайские сервисы прогоняли запросы своих пользователей через американскую компанию, причём часть переписки содержала чувствительную информацию», — говорит Климарёв. Наиболее эффективным инструментом противодействия злоупотреблениям со стороны китайских компаний Климарёв считает ограничение их доступа на рынок. ⚫️ «Не наказать в Китае, а не пустить наружу: магазины приложений, облачные каталоги, госзакупки, корпоративные закупки, хостинг весов. Именно эту кнопку сейчас и жмут, и отчёт написан ровно под неё. Побочный эффект известен: регуляторам придётся проводить тонкую границу между пресечением скрытого извлечения ресурсов и объявлением любой конкурентоспособной китайской модели уликой», — отмечает эксперт. ⚫️Подробнее — на сайте «Эха» ⚫️Без VPN @echoonline_news