⚡️Anthropic раскрыла пять случаев, когда Claude помогал в создании биооружия 😳 Компания Anthropic опубликовала отчёт о пяти реальных эпизодах использования своих моделей в биологических проектах, которые вызвали серьёзные опасения 🟢В одном случае учёный планировал эксперименты с вирусом чикунгунья по повышению его вредоносности — работа должна была вестись в военном исследовательском институте (название и страна не раскрыты) 🟢В другом — исследователь обменивался с Claude тысячами сообщений по проекту с птичьим гриппом, изучая адаптацию вируса к млекопитающим 🟢Третий случай — подготовка грантовой заявки для лаборатории с ортопоксвирусами (оспа) 🟢Четвёртый — создание атласа пептидных токсинов и ИИ-системы для генерации новых молекул, способных вызывать паралич 🟢Пятый — оптимизация бактериальных токсинов и белков вируса геморрагической лихорадки, причём исследователь специально просил Claude не раскрывать названия и оставлять описания расплывчатыми Anthropic заблокировала все связанные аккаунты. Проблема двойного назначения: с одной стороны — медицина, с другой — обход защитных систем. 4ch