Вокруг «истинности» ответов ИИ давно вырос миф, будто языковые модели способны выдавать безошибочные данные. На деле они работают по принципу школьника, угадывающего вариант в тесте: лучше сказать хоть что-то, чем оставить пустой бланк. Такая логика приводит к тому, что алгоритмы нередко «галлюцинируют», выдавая выдумки под видом достоверной информации, поскольку сами механизмы обучения поощряют уверенное угадывание, а не признание неопределённости. Исследования Columbia Journalism Review показывают, что уровень подобных ошибок у Grok-3 достигал 94%, а наиболее точные результаты продемонстрировала модель Perplexity. Парадоксально, но платные системы оказались менее надёжными, чем бесплатные аналоги, и почти никто из них не склонен указывать на собственные сомнения. Ситуация усложняется при использовании ИИ-агентов, в которых каждое действие базируется на предыдущем: одна ошибка способна моментально расти как снежный ком. Несмотря на это, бизнес стремительно внедряет технологии, а последствия такой поспешности становятся заметны. По данным опроса McKinsey, более половины компаний уже столкнулись с негативными результатами применения ИИ. Причём в 30% случаев причиной стала неточность, приводящая к убыткам, репутационным инцидентам и юридическим претензиям. Гарвардская школа права фиксирует дополнительный тревожный тренд: страховые организации начинают ограничивать или полностью исключать компенсацию убытков, возникших из-за ошибок искусственного интеллекта. Cass&Ra - подпишись и понимай