Немкин

ИИ может научиться самостоятельно распространяться через умную бытовую технику уже в ближайшие месяцы, пугают исследователи Anthropic — компании, разработавшей нейросеть Claude. Речь идет о так называемых «ИИ-червях» — программах, которые способны находить уязвимые устройства, копировать себя на них и продолжать распространение без участия человека. Потенциальными целями называют Android TV-приставки, умные телевизоры, холодильники, роботы-пылесосы и другую технику, подключенную к интернету. Исследователи уже провели эксперименты, показавшие, что небольшие ИИ-модели способны выполнять отдельные этапы такого процесса. В одном из испытаний нейросеть удалось запустить на восьми из девяти типов оборудования. Однако здесь есть принципиальный нюанс: эксперименты проходили в контролируемых условиях, а полноценная автономная система, способная надежно распространяться в реальной среде, пока не создана. Поэтому к прогнозам о том, что подобная угроза станет реальностью уже через несколько месяцев, я бы относился осторожно. Между тем, что ИИ способен продемонстрировать в эксперименте, и тем, что он сможет стабильно делать в реальном мире, лежит большая дистанция. Для массового распространения нужны уязвимости в устройствах, возможность запускать на них необходимый код и обходить существующие механизмы защиты. Все это далеко не гарантировано. Развитие ИИ действительно создает новые вызовы для кибербезопасности. Но и воспринимать каждый потенциально опасный сценарий как неизбежное будущее точно не стоит. В технологической сфере прогнозы нередко опережают реальные возможности систем. 📌 Этот пост также в МАКС