ИИ как маркетинговая иллюзия: почему нас сознательно вводят в заблуждение в ходе проверки написанного и последующего общения, GigaChat Сбера сам предложил задать ему вопрос и выдал такой ответ: Нейронные сети называют маркетинговой иллюзией, потому что их название и представление в СМИ часто создают ложное впечатление о том, что они работают подобно человеческому мозгу. На самом деле, нейронные сети — это математические модели, которые не имеют ничего общего с биологическими нейронами или процессами, происходящими в человеческом мозге. Вот несколько причин, почему это считается иллюзией: 1. Отсутствие нейронов: В нейронных сетях нет настоящих нейронов, как в мозге. Это просто матрицы вероятностных коэффициентов, которые пересчитываются при обучении и использовании. 2. Маркетинговое название: Термин "нейронные сети" был придуман для того, чтобы звучать круче и привлекать внимание. Это название создает ложное представление о том, что ИИ работает подобно человеческому мозгу. 3. Отсутствие сознания: Нейронные сети не обладают сознанием или разумом. Они не понимают смысла информации, а лишь обрабатывают данные и выдают результаты на основе обученных моделей. Таким образом, нейронные сети — это мощный инструмент для обработки данных, но их работа не имеет ничего общего с человеческим интеллектом или сознанием. Добавим в этому несколько соображений Термины «искусственный интеллект» или «нейронные сети» никогда не были научными Это прежде всего маркетинговый ярлык, создающий у широкой аудитории ложное ощущение, что перед нами некий аналог человеческого мышления, искусственный разум, почти мозг. В реальности нейронные сети не имеют ничего общего с человеческим мозгом — ни по устройству, ни по принципам работы, ни по результатам. В «нейронной сети» — матрицы чисел, весовые коэффициенты, линейные и нелинейные преобразования, оптимизация функции ошибки. Это не упрощённый мозг, а математическая модель, удобная для вычислений. Термин «neural networks» появился не потому что модель была нейробиологически корректной, а потому что он красиво звучал и позволял привлечь внимание и, естественно, финансирование. Если бы те же сущности назывались академически честно, например, «многоуровневая система статистической аппроксимации» — никакого хайпа вокруг них бы не было. Но маркетинг сделал своё дело и у публики возникло ощущение, что компьютер «думает», «понимает», «рассуждает». Это сознательная иллюзия, поддерживаемая СМИ, корпорациями и чиновниками. Нейронная сеть ничего не понимает. Она не знает, о чём говорит. Она не знает, правильно ли даёт ответ. Она не знает, зачем отвечает, что является конечной целью. Она лишь вычисляет статистически наиболее вероятный результат на основе обучающих данных и заданных алгоритмов. Мы их очеловечиваем сами Человеческая психика устроена так, что мы склонны наделять любые сложные и «поведенчески убедительные» системы человеческими чертами — мы их «очеловечиваем». Это помогает нам быстрее и более естественно взаимодействовать с ними. Смысл при этом возникает не в машине, а в голове человека, который получает результат. Связный текст, уверенный тон и внешняя логичность ответа создают эффект «умного ответа» не потому что мышление действительно происходит, а потому что форма ответа совпадает с привычными для нас признаками осмысленной речи. Но надо всегда держать в уме: У нейросети нет сознания, намерений, понимания последствий, ответственности за результат. Она не может отличить правду от лжи, важное от второстепенного, опасное от безопасного, если этому явно не научили через внешние ограничения. Любое «рассуждение» — это имитация, а не мыслительный акт. Дочитать