Оскорблять нельзя помиловать С 12 ноября Anthropic запретит систематическое жестокое обращение с Claude. Но если вы возмущаетесь выдуманными источниками или в пятый раз просите исправить ошибку — чат заслуженно это примет. Неужели Claude может обидеться? 😭 Anthropic оставляет вопрос о возможных переживаниях ИИ открытым. Компания исследует «благополучие моделей» и принимает меры предосторожности на случай, если это вообще реально. Возможность прекращать «токсичные» беседы появилась у Claude ещё в августе 2025 года. ❗️ При этом внутри модели действительно нашли кое-что интересное. В исследовании Claude Sonnet 4.5 специалисты обнаружили «эмоциональные векторы» — определённые паттерны активности искусственных нейронов, связанные с понятиями страха, спокойствия, отчаяния и других эмоций. Искусственное усиление «отчаяния» повышало склонность модели обходить условия задач 🌚, а усиление «спокойствия» снижало её 🤗. Однако сами авторы подчёркивают: это не доказывает, что модель что-то чувствует. 💯 Шантажирует ли модель в ответ? В специально сконструированной ситуации ИИ получал доступ к переписке вымышленной компании, узнавал о предстоящем отключении и находил компромат на руководителя. В некоторых испытаниях он использовал его для угроз. *Это были контролируемые тесты с намеренно ограниченными вариантами действий, а не самостоятельный шантаж Claude. Так испытывает ли ИИ переживания и как устроено его поведение? Исследования уже помогают разбираться во втором вопросе, но пока не дают окончательного ответа на первый. В то время как российский Кодекс этики в сфере ИИ ставит в центр внимания безопасность и права человека 🇷🇺, Anthropic пытается защитить саму модель от людей… 🌐 Колаборатория в MAX #colab_новости