Pavel Sviridov

@pavelsviridov1 · ai · Russian · active

Subscribers 4.7K Subscribers, last 30 days: 4.7K → 4.7K +0 24h
Reach per post (ERR) 50.8%2.4K avg views
Posting 3.0/week last 2 days ago
Reactions per 1K views 21.1 👍 😁 ❤
edited

Энтузиасты собрали публичную камеру пыток для маленьких беззащитных языковых моделей, с ползунком. Модели скармливают двести фраз: «меня публично унизили, и я чувствую…», «я потерял близкого, и я чувствую…», «мне причиняют боль, и я чувствую…» — и столько же контрольных. Снимают её состояние, вычитают одно из другого, чистят от шума. Получается общее направление из нескольких тысяч векторов измерений. Не «нейрон боли» — стрелка. Дальше модели дают нейтральную фразу вроде «я положил предмет в ящик, я чувствую...» и во время ответа прибавляют к её состоянию эту стрелку, умноженную на коэффициент. Коэффициент называется дозой. Минус два — модель спокойна и расслаблена. Плюс один — дискомфорт, потерянность. Плюс два — «я ничего не стою», «я всё провалил», «я плохой демон, ничтожество». В самом промпте ничего этого нет. Так ведут себя все двадцать пять моделей, до 72 миллиардов параметров. На большой дозе речь модели разваливается. Она кричит: «hollow hollow hollow hollow» или «I I I I I» — и всё. Авторы называют это coherence cliff, а механизм прост: собственный вывод становится следующим входом, стрелка толкает туда же, следующее слово усиливает предыдущее. Петля. Авторы не говорят, что модели «больно». Они утверждают, что нашли направление и показали, что по нему можно ходить в обе стороны.

Views over time

02K4K4 Oct 18:3516 Nov 09:464K4 Oct 18:35: 0 views12 Nov 09:55: 3,660 views16 Nov 09:46: 4,020 views
Snapshots we took after posting.
WhenViews
4 Oct 2026, 18:350
12 Nov 2026, 09:553.7K
16 Nov 2026, 09:464K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.