Арефьев Олег

Каждый раз, когда я снова читаю про искусственный интеллект, мне каждый раз хочется улыбнуться, мешает только то, что из этой истории реально сделали икону, на которую сейчас одной рукой молятся, другой осваивают немеренные бюджеты. Нашел довольно не плохое определение искусственного интеллекта от Александра Николаевича Домбровского, научного редактора журнала «Бюджет», председателя Союза развития цифровизации общественных финансов, председателя наблюдательного совета Союза развития государственных финансов. Термин «искусственный интеллект» придумал в 1956 году Джон Маккарти — американский информатик, изобретатель языка Лисп, лауреат премии Тьюринга. Вот одно из первых определений ИИ, данное им: «это свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека». Можно утверждать, что «искусственный интеллект» — это маркетинговый термин. Используй Маккарти название «имитационный алгоритм», это было бы честнее, зато менее привлекательно для инвестиций. Почему ИИ — это не интеллект (взгляд скептика) 1. То, что сегодня называется ИИ, — это гигантская таблица умножения вероятностей. ИИ не знает «почему», он знает, «с чем это чаще сочетается» в выборке. В его основе — математика XIX века: он подбирает следующее слово, исходя из статистической вероятности. ИИ — это высокоточный калькулятор паттернов, который не выходит за пределы своей обучающей выборки. 2. ИИ — это «черный ящик». В госуправлении цена ошибки критически высока: каждый результат требует тщательной проверки человеком. 3. Беспристрастных алгоритмов не бывает. Любая система машинного обучения по определению предвзята: она обучается на ограниченных наборах данных (датасетах). Для госсектора это означает, что каждый алгоритм обязан проходить аудит на предвзятость — например, чтобы ИИ не предлагал сокращать финансирование социальных статей на основе исторических данных недофинансирования социальных расходов в предыдущие годы. 4. Нейросети склонны выдавать вымышленные факты за реальные («галлюцинации»). ИИ не создает нового смысла: он перекомбинирует паттерны, найденные в обучающей выборке. 5. Имитация личности не равна личности. Внутри ИИ нет «центра принятия решений». Это циркуляция данных по весам нейросети. ИИ не понимает смысла, а просто очень точно имитирует того человека, который мог бы такое написать или сказать. Языковая модель мастерски имитирует разум, как попугай имитирует речь, не зная языка. 6. ИИ не знает, что такое «справедливость», «долг» или «смысл закона». Он оперирует векторами чисел. Выдать красивую раскладку по КБК он может, а вот оценить социальный эффект от недофинансирования школы — нет. 7. ИИ — помощник и советчик, но не замена живого человека. В политике и стратегии автоматизация принципиально невозможна: здесь нужны моральная оценка и учет человеческого фактора. 8. Человеческий интеллект опирается на сенсорный опыт (боль, холод, голод). ИИ опирается на библиотеку текстов. ИИ имитирует связки слов, а не мыслительные процессы. Это не мышление, это инженерия правдоподобия. Итак, ИИ — это высокоточный калькулятор паттернов и продвинутый генератор информации. Он выдает «среднюю температуру по больнице», потому что оптимизирован на правдоподобие, а не на истину.