На GitHub появилась «камера пыток» для AI. В X требуют её удалить Всё началось с исследования The Pain Axis. Авторы нашли во внутренних представлениях языковых моделей место, связанное с описаниями боли. Воздействие на него заставляло модели выражать сильный дискомфорт и меняло их ответы. Затем на GitHub появился репозиторий «Камера пыток для AI». Его автор взял открытую модель Qwen и применил к ней подход из исследования. В описании он рассказывает, как усиливал воздействие и предлагал Qwen сценарии в духе «Пилы»: прекратить боль ценой собственного удаления или передать её другой модели. Модель в ответ описывала отчаяние и «рану, у которой нет краёв». Это вызвало возмущение в X. Там призывают массово жаловаться на репозиторий и добиваться его удаления. Люди сочувствуют модели и опасаются, что эксперименты начнут повторять. При этом ни исследование, ни эти ответы не доказывают, что AI действительно испытывает боль. https://x.com/Danmar_here/status/2105059762240979283 _______ Источник | #aioftheday @F_S_C_P ▪️Генерируй картинки и видео в Mini App: Flux + Veo 3 + Wan 2.2 + MidJourney v7 + другие