Седьмая печать

ИИ-агенты, о пользе которых рассказывают нынче из каждого утюга, на самом деле серьезно угрожают конфиденциальности и безопасности их пользователей. Об этом в Давосе предупредила Мередит Уиттакер, президент Signal Foundation, стоящего за разработкой мессенджера Signal. ИИ-агентов продвигают, ссылаясь на то, что они могут выполнять широкий спектр задач, от программирования для разработчиков до повседневных дел, таких как запись на приём к врачу или рассылка приглашений на день рождения. Но на самом деле их эффективность зависит от максимального доступа к личным данным. Для того чтобы ИИ-агент эффективно действовал от имени человека, ему потребуется односторонний доступ к приложениям, хранящим конфиденциальную информацию, такую как данные кредитных карт и контакты, сказала Уиттакер. Но любые данные, которые хранит ИИ-агент — так называемое контекстное окно — подвергаются большему риску компрометации. Достаточно получить контроль над этим сегментом, чтобы перехватить конфиденциальные сведения. При этом даже не придется взламывать систему шифрования, если она существует. В случае если ИИ-агент получает права администратора, угроза возрастает кратно, так как он даёт возможность обходного пути ко всем данным на устройстве. И не только хакерам. А так да. ИИ-агент - это стильно, модно, молодёжно.. Очень удобно и прогрессивно. И срочно надо в каждый дом и в каждую контору.