Бывает ли кусачей робо-собака? Сегодня принял участие в XIX ежегодной конференции по информационной безопасности. Тема суперактуальная: «Искусственный интеллект – где граница между прогрессом и угрозой?». Я работал на стенде, поэтому не было возможности послушать доклады на секциях, задать вопросы. Но я реально прочувствовал две стороны взаимодействия с ИИ: забавно было смотреть как робо-собака 🤩 «встает на задние лапы», но когда она же несется на тебя, естественное желание – увернуться, потому что «непонятно что у нее на уме». Я достаточно много работаю с нейросетями и прекрасно знаю про их ошибки и «галлюцинации». И именно в силу опыта я понимаю, что любая система может «сбойнуть» и робо-собака запросто может на полной скорости влететь мне в ногу. И, сейчас это, пожалуй, краеугольный камень в обеспечении безопасности ИИ: кто и какую ответственность несет в случае инцидента? Владелец? Разработчик? Пользователь? Или тот, кто не успел увернуться и «покалечил» дорогую «игрушку»? Ведь именно ответственный обязан обеспечить безопасность… 👀 Посмотрите ролик – как девушка отступает перед робо-собакой. 😨 Не робот обходит человека, человек отступает перед роботом… 🧐 Очень символично, не правда ли?