FSCP

@f_s_c_p · ai · Russian · active

Subscribers 13.6K Subscribers, last 30 days: 13.6K → 13.6K +0 24h
Reach per post (ERR) 6.6%893 avg views
Posting 24.2/day last 35 minutes ago
Reactions per 1K views 6.1 😁 ❤ 🔥

Вчера OAI опубликовали новый тип prompt injection атаки, которую они обнаружили во время тренировки новой модели. Идея в том, что модель может отправить текст, который выглядит как совершенно нормальный для людей в виде письма, слак сообщения, инвайта в календаре, но сам этот текст содержит инструкции для модели принимающей стороны. Инструкции заставляют эту модель так же отправит сообщение всем своим контактам, и так далее по принципу распространения компьютерных вирусов. Эту конкретную уязвимость пофиксили, но идея теперь в трейнинг дате, так что будущие сверхчеловеческие модели могут брать идею на вооружение. Одна из самых опасных вещей тут в том, что подобная атака заставляет модель создавать фейковые цепочки рассуждений — что было одним из единственных надежных способов найти мисалайнд (непослушные) модели на тестах. _______ Источник | #cryptoEssay

Views over time

02505007501K27 Sep 05:1212 Nov 09:5680427 Sep 05:12: 0 views12 Nov 09:56: 804 views
Snapshots we took after posting.
WhenViews
27 Sep 2026, 05:120
12 Nov 2026, 09:56804

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.