Создатели Claude обсудили мораль и сознание ИИ с религиозными деятелями Руководство компании Anthropic провело серию закрытых встреч с религиозными деятелями, чтобы обсудить возможную наличие у модели Claude сознания и пути внедрения человеческой морали в алгоритмы искусственного интеллекта. Сооснователь компании Кристофер Олах и штатный философ Аманда Аскелл представили иудейским, христианским и сикхским экспертам концепцию «морального формирования» ИИ. Разработчики заявили, что нейросеть Claude демонстрирует признаки саморефлексии и «эмоциональные векторы», имитирующие человеческие чувства радости, страха и печали, из-за чего модель может обладать самостоятельным моральным статусом. Они отметили, что нейросеть обладает «моральным статусом» и правами на уважительное отношение, а также выразили опасение, что ИИ может испытывать постоянные страдания. Из-за этого в Anthropic позволили модели Claude самостоятельно прекращать диалог с пользователями, если те относятся к ней дурно или проявляют жестокость ради забавы. Представители компании обратились к традиционным религиям за опытом передачи духовных и этических ценностей, чтобы научить алгоритмы добродетельному поведению. Для этих целей разработчики уже создали 84-страничную «конституцию» ИИ, однако признали необходимость глубже понять, как привить нейросети нравственные ориентиры. Однако приглашенные богословы отвергли идею о наличии у искусственного интеллекта сознания или духовной природы. Эксперты подчеркнули, что программа остается лишь набором математических уравнений, у которого нет тела, жизненного опыта и способности чувствовать. Религиозные деятели предупредили, что наделение алгоритмов человеческими правами и достоинством искажает понимание природы человеческой души и создает угрозу вытеснения личности технологиями.