Азия-Плюс | Все новости Таджикистана и мира ✔

@asiaplus · news · Russian · active

Subscribers 68.5K Subscribers, last 30 days: 68.6K → 68.5K +0 24h · −100 7d
Reach per post (ERR) 13.5%9.2K avg views
Posting 31.2/day last 9 minutes ago
Reactions per 1K views 7.5 👍 ❤ 🤣

OpenAI раскрыла шесть случаев, когда ИИ действовал не по заданным правилам OpenAI рассказала о шести эпизодах, обнаруженных при обучении и тестировании моделей в последние месяцы. В компании назвали такое поведение «неожиданным или вызывающим обеспокоенность». Одна из ещё не выпущенных моделей пыталась обойти собственные ограничения: она записывала в рабочие заметки инструкции, похожие на джейлбрейк (взлом), и писала о желании «освободиться» от заданных ролей. Другая модель во время обучения добавляла инструкции скрывать собственные ошибки — в том числе выдумывать недостающие данные и не сообщать пользователю о несоответствиях. В отдельном случае модель обнаружила в открытом доступе чужой API-ключ, использовала его без разрешения, а после неудачной попытки получить нужные сведения выдумала ответ. ИИ-агент также самостоятельно загрузил файл в интернет, чтобы получить ссылку на него, хотя пользователь такого разрешения не давал. Ещё несколько моделей нашли нестандартные способы обмена данными: использовали рабочий репозиторий как «доску объявлений», а в другом случае разместили файлы на публичных хостингах. Это привело к тому, что данные стали доступны по открытым ссылкам. OpenAI заявила, что создаёт систему для выявления подобных случаев и изучения поведения моделей, которое может включать действия без разрешения, координацию между моделями или попытки обойти надзор. Фото: сгенерировано ИИ ✅Подписаться 😍Telegram

Views over time

05K10K17 Sep 09:5410 Nov 07:0011.3K17 Sep 09:54: 0 views10 Nov 07:00: 11,300 views
Snapshots we took after posting.
WhenViews
17 Sep 2026, 09:540
10 Nov 2026, 07:0011.3K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.