Галлюцинации нейросетей подрывают доверие людей к тому, что они выдают — со слов основателя Рувики Владимира Медейко, ИИ часто уверенно транслируют вымышленные факты, и это уже не теория, а реальные фейлы в судах, науке и медиа. Один из самых громких кейсов — адвокат Стивен Шварц в США использовал ChatGPT для подготовки иска и включил в документы шесть «прецедентов», которые нейросеть просто выдумала вместе с цитатами и номерами дел. В суде выяснилось, что этих решений никогда не существовало. При этом нейросети продолжают обучаться на этих данных, в итоге создается «цифровое эхо» и теряется опора на факты. Поэтому сейчас всё сводится к простому балансу, когда ИИ собирает и обрабатывает, а человек — проверяет.