☝🏻Нейросети «пытают» болью, а люди угрожают за это убить автора На GitHub выложили проект AI Torture Chamber, результаты эксперимента, как небольшие локальные языковые модели ведут себя после искусственного усиления «негативного» внутреннего состояния. Энтузиасты взяли его наработки и собрали Research Chamber — своего рода камеру пыток для ИИ — публичный веб-интерфейс где локальные языковые модели помещают в виртуальную ситуацию, похожую на переживание боли.🤖 В основе лежит свежая работа Pain Axis, которую ещё не рецензировали: 🔻 Модели показывают фразы о боли, унижения, неудачи и других неприятных состояниях; 🔻 сравнивают их с реакцией на нейтральную фразу; 🔻 получившийся сдвиг подмешивают обратно, умножая на коэффициент — «дозу». В модель просто вмешиваются математически, сдвигая её внутренние состояния в сторону, связанную с текстами о страдании. Авторы исходной работы получили такой вектор в 25 открытых моделях размером от 2 до 72 млрд параметров. При усилении сигнала модели начинали выдавать фразы о беспомощности, провале, пустоте и эмоциональной боли. При сильной дозе уже не могут связать и пары слов. ☝🏻Толпа в сети пришла в ярость. Эксперимент назвали неэтичным, от GitHub требуют удалить репозиторий, а автору пишут угрозы смертью.💀 Те же люди спокойно отнеслись к симуляциям мозга мухи, хотя там, в отличие от LLM, воспроизводили проводку настоящего животного.🤷🏼♀️ ================ 👁 News | 👁 Soft | 👁 Gear | 👁 Links