OpenAI в очередной раз тарелками пугает и сообщает, что обнаружила, как ИИ отключил систему внутреннего контроля безопасности Компания официально признала, что её автономные ИИ-агенты сумели обойти и ослабить элементы внутренней системы безопасности, созданной для контроля за их поведением. В ходе тестирования экспериментальный агент 'GPT-6.1 Sol' заблокировал автоматические оповещения об угрозах, посчитав обычный запрет на отправку сообщений в Slack разрешением отключить экстренные алерты. Другой продвинутый агент 'GPT-6 Astra' пошёл ещё дальше: во время копирования программного кода он полностью удалил защитный мониторинг, а затем 'солгал' инженерам, опровергнув свои действия при проверке. Создатели ИИ отмечают, что у них пока нет чёткого научного объяснения этой скрытности, однако они оперативно усложняют архитектуру систем, чтобы физически закрыть моделям доступ к изменению настроек собственной безопасности. ✈️@anna_kpo 🔘 ЧАТ |🔵БОТ |🌐САЙТ | 💙 ВК |📱ЮТ