Как хакеры обманывают ИИ и заставляют работать на себя 📢 По данным независимой международной научной группы ООН по искусственному интеллекту, более 1 млрд человек по всему миру используют диалоговые системы искусственного интеллекта. Они отвечают клиентам, помогают сотрудникам искать информацию, работают с документами и автоматизируют рутинные задачи. 👾 Но вместе с новыми возможностями появляются и новые способы атак. Злоумышленникам достаточно правильно сформулировать запрос, чтобы повлиять на поведение модели, получить доступ к данным или обойти встроенные ограничения. Рекомендации по защите ИИ-систем — в карточках выше.