Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Anthropic представила GRAM - выключатель опасных знаний в ИИ Этот метод показывает, что опасные знания можно физически изолировать внутри модели во время обучения, а не пытаться заблокировать их потом на уровне поведения. Раньше у Anthropic было 2 варианта: либо убрать вирусологические данные из обучения совсем, но тогда теряется польза для учёных, либо оставить и надеяться на фильтры и RLHF, которые можно обойти. GRAM предлагает другой вариант - обучай модель на всём, но изолируй опасное в отдельный модуль, который можно включить или выключить в зависимости от того, кому ты раздаёшь модель. Практически это означает, что одна обученная модель может существовать в разных конфигурациях: для публики, для верифицированных исследователей, для военных применений без необходимости тренировать их по отдельности. Но все это пока proof of concept на моделях до 5млрд параметров. Как поведёт себя на фронтир масштабе, покажет следующий этап.