ECWORLD NEWS

Anthropic выявила попытки использовать Claude в исследованиях, которые могли помочь создать биологическое оружие. "Исследователи обошли блокировку моделей в их регионе и пытались скрыть цель своих исследований, чтобы обойти наши меры предосторожности". "Мы не утверждаем, что они намеревались причинить вред". (с) Anthropic В опубликованном отчеты компании описаны пять подобных случаев, выявленных с декабря 2025-го по август 2026 года. В одном из них Claude пытались использовать при подготовке заявки на исследование вируса чикунгунья. Проект предполагал поиск мутаций, влияющих на заразность и способность вируса обходить иммунитет. Формально работу вели гражданские ученые, но проводить ее собирались в военном исследовательском институте. В другом случае исследователь несколько недель планировал эксперименты по адаптации птичьего гриппа к млекопитающим и его передаче по воздуху. Еще один пользователь просил Claude намеренно скрывать в отчетах названия изучаемых токсинов и вирусных белков. Здесь важно не перейти от фактов к Голливуду. Claude не "создал биологическое оружие". Anthropic не доказала преступный умысел исследователей. Такие технологии двойного назначения действительно могут использоваться и для создания вакцин, лекарств и систем раннего обнаружения новых инфекций. Более того, в описанных случаях старые версии Claude в основном помогали с анализом данных, планированием исследований, поиском литературы и подготовкой документов. Сама Anthropic оценила прирост возможностей ученых как ограниченный. Но это не делает новость менее важной. Раньше сложное биологическое исследование требовало большой команды, долгого поиска литературы и доступа к узким специалистам. AI постепенно сжимает все это до одного интерактивного помощника, который способен собрать знания, предложить план эксперимента, проанализировать результаты и подготовить следующий шаг. Сегодня это помощник. Через несколько поколений моделей это может быть уже полноценный AI-исследователь. Что из этого следует? ▪️ Доступ к наиболее мощным моделям для биологов начнут выдавать только после проверки личности, организации и исследовательского проекта. ▪️ Правительства потребуют от AI-компаний сохранять историю опасных запросов и передавать ее спецслужбам. Облачная нейросеть окончательно перестает быть "личным блокнотом". ▪️ Часть исследователей уйдет в локальные и открытые модели, где нет центрального провайдера, способного заблокировать аккаунт. И это будет самой сложной частью проблемы. ▪️ Быстро вырастет рынок AI-биобезопасности: систем контроля доступа, мониторинга запросов, защищенных научных облаков и автоматического обнаружения опасных исследований. Самое интересное здесь даже не биологическое оружие. AI-компании получают возможность увидеть замысел раньше, чем он превратится в реальный продукт или эксперимент. Фактически крупнейшие разработчики нейросетей постепенно превращаются еще и в глобальные частные разведывательные центры. Для бизнеса вывод простой: любые данные, загружаемые в облачную модель, надо считать потенциально доступными провайдеру и регулятору. Закрытые исследования, код, технологии и коммерческие секреты нельзя бездумно отдавать публичному AI. И еще один момент: Anthropic обнаружила пять подобных случаев всего за восемь месяцев. Это только одна компания и только то, что она смогла заметить. AI одновременно снижает стоимость создания новых лекарств и стоимость создания новых угроз. Технология одна. Разница остается только в целях человека, который ею управляет. @gpt1n - нейроадаптированный анализ событий | от профи для профи