Тарас Вархотов: "Субъектность является судьбой человека, которую он не в состоянии от себя отделить" ⚡️Тарас Вархотов, замдиректора Института наследия и современного общества РГГУ, кандидат философских наук, завкафедрой философии и методологии науки философского факультета МГУ имени М. В. Ломоносова, на круглом столе «Как человеку и обществу в эпоху развития ИИ сохранить субъектность?» в рамках II Международной научно-практической конференции «Социальная архитектура: теория и практика социальных изменений»: 🔹 Поскольку вопрос поставлен предельно радикально и широко — как сохранить человеческую субъектность, — стоит обратиться к одному из аспектов, который в наибольшей степени операционализирует этот вопрос, а именно к способности принимать решения. Всё больше обсуждается возможность делегирования социальных решений системам искусственного интеллекта. Решение можно понимать технически — как формальный выбор из некоторого количества предложенных сценариев. Но когда речь идёт о субъектном выборе, подразумевается, что этот выбор не является полностью обусловленным. Мы обычно не относим к решениям чисто алгоритмические ситуации. Решение подразумевает ответственность, которая, в свою очередь, должна опираться на понимание. Именно понимание является основной проблемой, связанной с использованием искусственных интеллектуальных систем. 🔹 Мы оказались искушены возможностью понимать интеллект как имитацию интеллекта. В жизни мы обычно имитацию отличаем от предмета имитации. Здесь так получилось, что имитация оказалась самим способом определения предмета. 🔹 Основная проблема, обозначенная в подготовленном Институтом наследия и современного общества РГГУ докладе об искусственном интеллекте в образовании и науке, — это онтологическая слепота искусственного интеллекта. Являясь по сути алгоритмической машиной, оперирующей знаками, отвлечёнными от значений, искусственный интеллект не понимает устройства реального мира и оперирует исключительно статистическими корреляциями, а не подтверждёнными на опыте причинно-следственными связями. 🔹 Галлюцинация для большой языковой модели — это не баг, а фича. Это следствие вероятностной природы модели, не позволяющей гарантировать достоверность ответов искусственного интеллекта без использования верификации человека. Искусственный интеллект как бы всё знает, обо всём осведомлён, но ничего не понимает. В буквальном смысле слова. Он выполняет формальные операции со знаками без возможности пережить, как это свойственно человеку, характер связи этих знаков с их значениями в реальном мире. 🔹 Оставаясь исключительно внутри формальной языковой структуры, логико-математической модели, искусственный интеллект не способен нести какую бы то ни было субъектность и моральную ответственность. На каждом этапе, когда речь идёт о реальном принятии решения, он нуждается в верификации человека. Мы попадаем в очень неприятный замкнутый круг: нам хочется избавиться от ответственности, переложив её на машину, но машина в действительности полностью лишена способности нести ответственность, и эту ответственность де-факто по-прежнему будет нести человек. 🔹 Поэтому нужно немного изменить постановку вопроса: не как человеку сохранить субъектность — потому что от субъектности ему не избавиться, — а как напомнить ему о том, что субъектность является его судьбой, которую он не в состоянии от себя отделить. 💬 Присоединяйтесь к нам в MAX: https://max.ru/id7707033405_gos43 #ИНиСО_РГГУ #искусственныйинтеллект #образование