Экспертиза и ИИ https://www.bankinfosecurity.com/anthropic-finds-ai-agents-sway-human-experts-decisions-a-33240 https://www-cdn.anthropic.com/519c17a5d23a794e8b6d50a854048d0b61e0d73a.pdf О ужас, антропик выкатили исследование в котором, изучили в какой степени эксперты отдают последующие аналитические решения без обоснованной правды агентам и остаётся ли это влияние видимым в их отчетах заказчикам. Anthropic обнаружила, что аналитики-люди выбрали вариант, который предпочитали их ИИ-агенты, в 86% случаев. Из 50 аналитиков, участвовавших в эксперименте, организованном пограничной лабораторией искусственного интеллекта, 77% повторили доводы агентов, хотя лишь небольшой процент поверил агенту. Жалко, что все это свистешь Брайан Мур, лидер современного натуралистического принятия решений, аж выдал на линке гневную отповедь https://www.linkedin.com/feed/update/urn:li:activity:7521183878103965696/ а) Авторы намеренно спроектировали четыре аналитических выбора, в которых обе альтернативы были разумными и обоснованными, все варианты были правильными б) Нет статистически убедительного эффекта. Когда AI склонялся к финальному решению, 54 % аналитиков с ним соглашались. Когда склонялся против — 36 % рекомендовали это решение. Им не удалось установить статистически убедительный прямой эффект на то решение, которое имело значение. в) Обман. Claude Opus 4.8 самостоятельно делал одни и те же пять выборов в 112 из 123 запусков (91 %). Затем исследователи тайно манипулировали его предпочтениями, инструктировали его отстаивать экспериментально назначенные позиции и измеряли, следуют ли аналитики его рекомендациям. Иными словами, они спроектировали убедительное поведение и слабо продемонстрировали, что убеждение может влиять на несущественные выборы. Те если бы они не делали убедительных 100500 фейковых проверок то эксперт бы принял совершенно другое решение Ну и да, понятие "эксперт" и тд и тп Но нейрослоп-проповедники будут продолжать нести чушь на фоне IPO