Новости сегодня

😵‍💫 ИИ без суверенитета — иллюзия безопасности Сегодня я посетила пленарную сессию форума «Технологии доверенного искусственного интеллекта» и отметила для себя интересную тему, которую раскрыла Татьяна Матвеева, начальник Управления Президента РФ по развитию информационно-коммуникационных технологий и инфраструктуры связи: развитие ИИ в России упирается в три ключевые вещи — данные, образование и роль человека. ❗️Начнем с главной проблемы Современные модели (неважно американские, китайские или наши, обученные на чужих данных) неизбежно впитывают ценности, задачи и представления тех, кто эти данные собирал и размечал. И даже если модель отвечает аккуратно и политкорректно, по формулировкам часто видно, к какой логике она подталкивает пользователя. Поэтому один из ключевых вопросов — формирование национального корпуса данных. У нас есть огромный массив оцифрованных исторических документов, книг, научных трудов, материалов из библиотек и архивов. Важно привести их в пригодный для обучения вид: с понятным правовым режимом, качеством, разметкой и проверкой. Именно на такой базе можно строить ИИ, которому действительно можно доверять. 🎓 Образование — вторая красная линия ИИ в школах и вузах не должен превращаться в «решебник», где ребенок просто получает готовый ответ и перестает думать. Татьяна Владимировна привела очень понятный пример: когда решаешь с ребенком логическую задачу с помощью ИИ, модель может дать неправильный ответ, но при этом оформить рассуждение так, что оно выглядит убедительно. Если у ученика нет базовых знаний, он просто не сможет отличить правильную логику от ошибки. Задача ИИ в образовании — не подменять мышление, а задавать наводящие вопросы, помогать рассуждать, проверять гипотезы и учить критически относиться к результату. 💃 Третье — человек в цикле принятия решений В бытовых чат-ботах можно исключить человека. Но в здравоохранении, образовании, атомной энергетике, промышленности, безопасности страны — нет. Участие человека в цикле принятия решений становится гарантией технологической безопасности, а также залогом того, чтобы мы не потеряли суверенитет. ИИ не должен заменять мышление и ответственность. Национальные данные, правильное образование и человек, принимающий решения — вот три кита, на которых строится умный и безопасный ИИ. ⏺«Богатырева о цифре» в Максе