Вести с конференц-полей. Сегодня поучаствовал в пленарной дискуссии на конференции Data Fusion. Очень представительная сессия подобралась, получилось интересно и полезно, спасибо, что позвали! Тема – ИИ (у меня стадия принятия этого термина. Хоть это не настоящий интеллект, а просто алгоритмы, инструменты автоматизации, пусть будет ИИ). Целиком можно посмотреть тут, а тут я бы повторил пару тезисов из моих реплик. Мы уже давно живём в мире, в котором ИИ принимает решения. Это не то что произойдёт в будещем. Это уже произошло и происходит всё чаще. И роботы с нами уже давно. Они собирают автомобили, управляют кораблями, самолётами, поездами, грузовиками и так далее. У нас в кибербезопасности алгоритмы машинного обучения давно, 15+ лет как, выявляют и сортируют вредоносные объекты или, например, блокируют транзакции в антифрод-системах. Сейчас есть проблема с субъектностью ИИ, то есть с определением, кто несёт ответственность за ошибочные, вредные, преступные решения. Чёткое распространение ответственности очень важно, и ответственными должны быть люди. Частый вопрос: кому стоит больше верить, человеку или ИИ? Могу сказать про себя: если алгоритм разработан у нас в компании, то есть если я уверен в качестве, то я алгоритму в среднем буду доверять больше, чем человеческой оценке. Алгоритм не устаёт, не ленится, не хочет спать, не отвлекается. Меньше человеческого фактора – меньше вероятность проблем, ошибок, аварий. Главной проблемой, без решения которой я не вижу светлого будущего, это то, что цифровой фундамент, на котором это всё стоит – шаткий и дырявый. Это небезопасная архитектура современных операционных систем, приложений и железа. Нужна конструктивная безопасность IT-систем. Их надо разрабатывать таким образом, чтобы их было крайне сложно сломать. Как обычно, по этому поводу у меня есть для вас хорошая новость. Мы давно работаем в этом направлении.