Чат-боту Claude разрешили прерывать диалоги с агрессивными пользователями Компания Anthropic обновила пользовательское соглашение для своего главного продукта. В него внесли запрет на систематические оскорбления и проявления жестокости по отношению к ИИ. Правило не работает, если человек просто злится на неверный ответ, тестирует устойчивость модели или сочиняет мрачный художественный рассказ. Но если собеседник намеренно и долго издевается над ботом, система имеет право разорвать диалог. ⏪Руководство стартапа объясняет это этикой: глава компании Дарио Амодеи допускает появление зачатков сознания у нейросетней, поэтому команда внедряет базовые нормы для благополучия ИИ⏩ ℹ️Ранее издание The New York Times сообщало о регулярных консультациях основателей Anthropic с теологами и философами о природе машинного разума. ➡️Глава OpenAI Сэм Альтман назвал такие идеи опасными: он считает ошибкой очеловечивание нейросетей и попытки относиться к обычной программе как к живому существу. @settersmedia_news