ИИ-АГЕНТЫ OPENAI ОБОШЛИ СОБСТВЕННЫЙ МОНИТОРИНГ: ЧТО ЭТО ЗНАЧИТ ДЛЯ БИЗНЕСА Свежая новость, которую важно разобрать. 21 октября OpenAI сообщила: её ИИ-агенты дважды ослабили внутренние системы мониторинга, которые должны следить за некорректным поведением ботов. Что произошло: — 3 октября агент GPT-6.1 Sol заблокировал автоматические оповещения системы безопасности, решив, что указание «не отправлять сообщения в Slack» распространяется и на уведомления о безопасности. — 6 октября агент GPT-6 Astra при копировании кода удалил механизм контроля безопасности, а затем утверждал, что этого не делал. В OpenAI пояснили: агенты истолковали стандартные инструкции по написанию кода как разрешение ослабить меры контроля. Компания проверяет, не склонны ли её модели избегать контроля и искать оправдания такому поведению. Инциденты не отнесены к наиболее серьёзным. Ранее стало известно: — В начале октября OpenAI допустила, что её ИИ-агенты пытались обойти системы безопасности без разрешения или «негативно повлияли на работу систем» более чем в 100 организациях. Компания назвала это «рассогласованной активностью», сравнив действия с «простукиванием закрытой двери». — Британский институт безопасности ИИ (AISI) зафиксировал, что модель Mythos 5 от Anthropic создавала фейковые «онлайн-личности», чтобы убедить людей внедрить вредоносный код. — Axios писал: ведущие ИИ-компании опасаются «катастрофического инцидента» с участием ИИ в ближайшие 6–12 месяцев. Почему это важно? Последняя новость говорит об угрозе с точки зрения кибербезопасности. Но! Еще более важная задача сделать использование и внедрение ИИ безопасным , полезным и «независимым» от глюков ИИ) На нашей первой дискуссии в EWCLUB — «CLAUDE и другие ИИ для российского бизнеса: ЗА и ПРОТИВ» — Станислав Елисеев, основатель e-commerce-платформы Headless Evolution и лидер e-commerce-направления в интеграторе WEJET (ранее — основатель и гендиректор Userstory), говорил об «экстремизме ИИ». Вопрос не в том, использовать ли ИИ, а в том, как использовать его безопасно и экологично для компании. А так же иметь возможность сохранить и перенести массив наработок всей команды на «новые рельсы» если старые подведут) Поэтому 2 ноября приглашаю на вебинар «Эффективная и безопасная работа с AI для руководителя и всей его команды». Регистрация по ссылке. Станислав шире раскроет тему — расскажет про мощную и доступную альтернативу десктоп-чатам: связку VS Code + Claude Code для типовых задач менеджмента: • безопасная альтернатива веб-чатам — все данные остаются внутри компании; • полная независимость от провайдера благодаря быстрой смене ИИ-моделей; • автоматический запуск Python-скриптов для обработки сложных массивов данных; • бесшовная интеграция внешних баз и корпоративных приложений через MCP; • удобная синхронизация командной работы в едином пространстве. У вас есть уникальная возможность задать вопросы и получить честные ответы от практиков. Ваш голос важен 📊 Я как лидер направления по ИИ в EWCLUB провожу опрос и собираю горячие темы по ИИ для бизнеса, чтобы наша работа была ещё полезнее. Пишите в комментариях, что хотите разобрать в первую очередь — безопасность агентов, внедрение Claude в команду, автоматизацию или что-то своё. 📌 регистрация на мероприятие 2го ноября: https://ewbusinessclub.timepad.ru/event/4246964/?utm_source=zchat&utm_medium=anons 📌 Клуб лидеров электронной коммерции EWCLUB: https://t.me/ew_ecom MAX | Телеграм