🤖 Российский ИИ хотят проверять на «духовность и нравственность» Российские IT-компании совместно с Минцифры обсуждают создание системы независимых испытательных лабораторий, которые будут проверять большие ИИ-модели на соответствие российскому законодательству и «традиционным духовно-нравственным ценностям». Проверять модели планируют с помощью специальных бенчмарков: ИИ будут задавать провокационные запросы, а также пытаться обходить встроенные ограничения с помощью промпт-инъекций. При этом речь пока не идёт о проверке всех представленных на рынке нейросетей. Такая экспертиза потребуется разработчикам, которые захотят получить для своих моделей статус национальной или суверенной — он, в частности, может дать доступ к мерам господдержки, государственным данным и приоритетному использованию в отдельных сферах. Критерии оценки планируют разрабатывать Минцифры, ФСБ и ФСТЭК. Предполагается, что работать смогут несколько аккредитованных лабораторий, а окончательное решение о соответствии модели требованиям останется за Минцифры. При этом сами правила ещё находятся на стадии разработки и межведомственного согласования, поэтому окончательная система проверки может измениться.