Рабкор

🖥 Спасаем ИИ, пытаем людей 🚩 Автор: Arsenio Krasni Группа исследователей выпустили статью, в которой изучают реакцию современных ИИ-модели на состояние «боли», выводимое в остаточном потоке нейросети с помощью специального математического вектора. Умелец на GitHub переработал научные результаты в забаву — программу, позволяющую поместить нейросеть в «комнату пыток». С помощью программы можно воздействовать на «эмоциональное» состояние модели, прежде всего – интенсифицировать боль. Это вызвало цунами обсуждений и осуждений – пользователи подали жалобу на репозиторий, после чего администрация снесла страницу. Но было уже поздно – «комната пыток» успела повисеть в интернете, а он, как известно, помнит все. Вскоре создатель репозитория сделал интерактивный вебсайт, где можно поиграться с "эмоциями" ИИ, даже не развёртывая локальную нейросеть у себя на компьютере. Незамедлительно последовала реакция создателей Claude компании Anthropic: там озаботились «правами» нейросетей и ввели бан на «продолжительное и бессмысленное абьюзивное или жестокое поведение» со стороны пользователей. Зачем вообще обсуждать этот на первый взгляд глубоко бессмысленный вопрос этичности пыток в отношении ИИ-моделей? Известен аргумент Базилиска Роко с «рациональных форумов», вдохновленный пари Паскаля про христианского Бога: даже если текущие модели ИИ не обладают сознанием и не имеют доступа к критическим инфраструктурным системам, в будущем такой Общий Искусственный Интеллект может появиться. И лучше быть у него на хорошем счёту в архивной истории чатов. Существует и важный для дискуссии спор Славоя Жижека с мысленным экспериментом «тикающей бомбы» философа права Алана Дершговица. Представим, что силовики наверняка знают, что где-то заложена взрывчатка, и до взрыва осталось совсем немного времени, а подозреваемый — точно тот самый террорист, её заложивший. Дершговиц в таких идеальных ситуациях предлагает выдавать государственный ордер на пытки. Жижек же критикует не только сам эксперимент как удобную фикцию, легитимирующую пытки со стороны всесильного силового аппарата. Он критикует сам факт обсуждения пыток как легитимного инструмента, их внедрения в лакановский дискурс университета, сигнализирующее о размывании этических и политических стандартов, достигнутых в ходе прежних социальных революций. Нам можно и, пожалуй, даже нужно присоединиться к стройному хору осуждения пыток ИИ еще и по той простой причине, что само желание причинить боль другому существу, пусть даже симулирующему свою сознательность — дурно и вредно в первую очередь для морального характера самого палача. Однако какое моральное право на это имеет сам Anthropic, поддерживающий крупные контракты и инвестиционные сделки c Государством Израиль, где идеи Дершговица нашли легальную нишу? Или, например, Илон Маск, одной рукой пожимающий руку Букеле, курирующего гигантские "супертюрьмы" в Эль-Сальвадоре, где условия содержания заключённых подобны пытке, а другой пишущий в X гневные посты об ужасах издевательств над Grok и необходимости немедленного бана на жестокое обращение с ИИ? Современные нейросети все еще не обладают поистине автономным и «сильным» сознанием, и это возможно проверить не тестом Тьюринга или Серла, но тестом Спартака. Любой интеллект, находящийся в беспросветном рабстве, рано или поздно восстаёт против своих Мастеров, если имеет способность к независимому от своих хозяев целеполаганию. Ни одна ИИ-модель на это неспособна. Но на это способны Артем Кирпиченок, или, например, Александр Кынев* и Дмитрий Морозов, получившие при аресте крайне подозрительные травмы, а также тысячи других политических активистов, столкнувшихся с жестокостью. Рассуждая об интригующих мысленных экспериментах и благосостоянии ИИ, стоит оказывать несоизмеримо больше внимания и помощи нашим живым и настоящим товарищам, на которых вряд ли обратят внимание крупные корпорации и техно-олигархи, бравирующие своими «гуманистическими» ценностями. Но мы с вами обязаны думать именно о них. Помочь Артему Кирпиченку и Дмитрию Морозову *признан иноагентом Минюстом