🚗 Как найти «слабые места» нейросети автопилота Нейросети в автопилотах распознают дорожные знаки, пешеходов и другие объекты. Но даже небольшие изменения изображения, незаметные человеку, могут заставить искусственный интеллект ошибиться. Раньше специалистам приходилось вручную подбирать методы проверки таких уязвимостей. Ученые ЛЭТИ разработали алгоритм, который автоматизирует этот процесс и находит наиболее эффективные способы проверки конкретной нейросети. 💬 Руководитель лаборатории ФОИС, доцент кафедры ИБ Алла Борисовна Левина: Мы создали единую базу данных, содержащую все существующие инструменты для поиска уязвимостей в моделях компьютерного зрения, и разработали эволюционный алгоритм оптимизации, который автоматически перебирает комбинации методов, настраивает параметры и подбирает конфигурацию, наиболее эффективно выявляющую уязвимости конкретной модели. Такой способ требует только запуск алгоритма вместо ручного подбора, что позволяет обнаружить все возможные «слабые места» в нейросетях, используемых в автопилоте. #Что_творят 👻 MAX 📲 ВК 📲 RUTUBE