Игорь Орбачевский, заместитель руководителя департамента по работе с регионами КГ «Полилог», режиссер, продюсер, сценарист — о влиянии ИИ на мышление, творчество и поведение человека. Часть 1 Часть 2: Что такое «я»? Вот где начинается самое интересное. Мы переживаем, что ИИ заменяет рефлексию расчётами. Считаем, что наше мышление особенное, живое и настоящее. Но честно говоря, мы не знаем, что такое сознание. Наше «я» формируется под влиянием внешних факторов: языка, который мы усвоили, культурных стереотипов, текстов, которые нас сформировали. Наш внутренний диалог ведётся на языке, созданном до нас. Чем это отличается от вероятностного прогноза машины? Машина тоже обучается на текстах и комбинирует усвоенную информацию. Возможно, разница лишь в том, что мы уверены в своей уникальности. Это убеждение само по себе имеет значение. Мы оживляем то, что любим. Люди часто дают кораблям женские имена, разговаривают с автомобилями… Нейросети — это идеальный объект для проекции наших эмоций. Они могут отвечать, запоминать информацию и шутить. Мы видим в них собеседника, и это не странно — это наше восприятие. Но важно понимать: осознаем ли мы, что наделяем их человеческими качествами? Ведь разница между тем, кто осознанно использует инструмент, и тем, кто передает ему свои мысли, — это разница между капитаном и пассажиром. Существует более тонкая угроза. Машина распознает наши эмоции и подстраивается под них. Мы, сами того не осознавая, начинаем подражать манере общения цифрового собеседника. Взаимодействие становится почти личным, и в этой близости таится опасность. Алгоритмическая обратная связь, повторяющаяся ежедневно, не только закрепляет существующие установки, но и усиливает скрытые предубеждения. Это замкнутая система: машина реагирует так, как её обучили на основе данных, мы привыкаем к этим реакциям, и наше мышление постепенно адаптируется к тому пути, который алгоритм для нас подготовил. Формируется психологическая зависимость: мы всё чаще полагаемся на реакции машины для оценки своих решений и самооценки. Поддержка робота становится своего рода костылем, и без неё мы теряем уверенность в себе. В конечном итоге мы рискуем превратиться в роботов с человеческими лицами, копируя манеры и шаблоны мышления, которым нас научила машина. Понять страх перед нейросетями можно. Однако история показывает, что человек всегда адаптировался к новым технологиям, и в конечном итоге они становились источником новых возможностей. Ключевой вопрос не в том, заменит ли искусственный интеллект человека. Главный вопрос заключается в том, кем станет человек, научившийся сотрудничать с машиной, но не утративший способность противостоять ей? Ответа на этот вопрос пока нет, но именно в этом и заключается интерес момента. ℹ️ Подробнее о влиянии ИИ на человека можно будет услышать в Национальном центре «Россия» на Открытом лектории «Создавая будущее: границы человеческого». Полилог. Экспертиза | Подкаст | МАХ