НЕЙРОСЕТИ В РОССИИ ПРОЙДУТ КУРС РАЗГОВОРОВ О ВАЖНОМ Российским большим ИИ-моделям, которые захотят получить статус национальных или суверенных, придётся пройти проверку на соответствие законодательству и традиционным духовно-нравственным ценностям. Экзаменовать их смогут несколько аккредитованных лабораторий, а окончательное решение останется за Минцифры. Разработчику придётся представить сведения об архитектуре модели, механизмах фильтрации и результатах собственной проверки. Затем специалисты прогонят ИИ через бенчмарки и попробуют обойти его ограничения с помощью промпт-инъекций (лечебное дело тут не при чём, это специально составленные запросы, которые должны заставить нейросеть проигнорировать заложенные инструкции и выдать то, что обычно ей запрещено). Отдельный «Домострой для роботов» писать не будут. За основу возьмут указ № 809, где среди традиционных ценностей перечислены патриотизм, крепкая семья, справедливость, коллективизм, историческая память, гуманизм и приоритет духовного над материальным. ВАШУ ЦИФРУ! Айзек Азимов когда-то придумал три закона робототехники: не вредить человеку, подчиняться ему и заботиться о собственном существовании именно в таком порядке. Похоже, XXI век начинает дописывать к ним национальные приложения. Само по себе это не исключительно российское ноу-хау. Любая крупная нейросеть уже приходит к пользователю с набором ограничений: разработчик заранее решает, что ей можно говорить, чего нельзя и где она должна отказаться от ответа. В Китае пошли дальше и ещё с 2023 года обязали публичные генеративные ИИ придерживаться «основных социалистических ценностей». Теперь похожую задачу пытаются формализовать и у нас, только с собственным набором ориентиров. Выяснить, умеет ли модель складывать два и два, просто. Проверить, выдаёт ли она запрещённую инструкцию, тоже можно довольно однозначно. Но как выглядит бенчмарк на справедливость? Контрольная по патриотизму? Где заканчивается уважение к исторической памяти и начинается неправильный ответ? Чем расплывчатее критерий, тем больше результат зависит уже не от самой модели, а от того, кто составляет вопросы и назначает правильные ответы. Так что законы робототехники действительно меняются. Раньше от машины требовалось не убить хозяина. Теперь этого мало: ей ещё предстоит правильно понимать семью, Родину, историю и справедливость. А эта задача гораздо сложнее