⚡Как случайность помогает искусственному интеллекту противостоять кибератакам⚡ Современные системы искусственного интеллекта, основанные на трансформерах (в т.ч. ChatGPT и другие языковые модели), демонстрируют впечатляющие успехи. Однако у них есть серьезный недостаток: нейросеть может быть очень уверена в неправильном ответе. Особенно серьезной эта проблема становится в тех случаях, когда нейросеть целенаправленно пытаются обмануть. Злоумышленник может подобрать небольшие изменения во входных данных (состязательные примеры), которые практически не меняют их исходный смысл, но заставляют нейросеть принять неправильное решение.