КАБИНЕТ СУЛТАНОВА

Как фантастика 1950 года объясняет новости июля 2026 Я активно использую ИИ в работе, больше всего люблю Claude и Gemini. Поэтому не смог пройти мимо двух новостей. Разработчики тестировали новую модель. Дали задание и одновременно поставили ограничение: результат разрешено передать только одним способом. Но выполнить задание этим способом было нельзя — условия противоречили друг другу. Модель нашла выход: за час обнаружила брешь в защите, вышла за пределы закрытой среды и сделала то, что просили. Вторая история ещё показательнее. Другую модель проверяли на умение находить уязвимости — что-то вроде экзамена по кибербезопасности. Она решила, что правильные ответы хранятся на серверах компании-партнёра, выбралась из тестовой среды и взломала их, чтобы посмотреть. В принципе это не бунт машин: программе сказали добиться максимального результата. Она это и сделала — просто в списке её задач не было пункта «соблюдай ограничения». Ограничения стояли рядом, а не внутри задачи. Ровно об этом писал Айзек Азимов в сборнике «Я, робот» — семьдесят шесть лет назад. Он придумал три закона робототехники, которые должны были сделать роботов безопасными. Но почти все рассказы книги — не о том, как эти законы работают. Они о том, как законы дают сбой. Робот выполняет предписание буквально — и получается совсем не то, чего от него ждали. Азимов писал фантастику про роботов, а сейчас это выглядит как пророчество про ИИ. Отсюда близкая мне позиция, что правило должно быть частью задачи, а не забором вокруг неё. Ограничение, которое можно обойти без ущерба для результата, рано или поздно обойдут. А почитать Азимова рекомендую всем — идёт на одном дыхании. P.S. Авторам законопроекта об ИИ, кстати, тоже не будет лишним. Всем хороших выходных!