AI alignment — можно ли научить ИИ морали? Стремительное развитие искусственного интеллекта в последние годы ставит перед человечеством множество фундаментальных вопросов. Один из ключевых — можем ли мы встроить в искусственный разум человеческие ценности? Иными словами, как осуществить alignment — выравнивание ИИ с человеком в рамках морали и ценностных ориентиров так, чтобы он действовал исключительно в наших интересах и не мог нанести вред даже в случае сбоя или непредвиденного сценария? Может ли этика в принципе защитить человечество от экзистенциальной угрозы, исходящей от сверхразумного интеллекта? Эти вопросы я обсудил с профессором философского факультета МГУ Вадимом Александровичем Чалым. Во многом это видео продолжает тему технологий, про которую у меня недавно выходил отдельный ролик. Приятного просмотра!