Ах, какой был помощник! Люди смотрят на нейросеть влюбленными глазами Помните «Настоящего полковника» Аллы Пугачевой? Под личиной бравого военного скрывался уголовник, но очарованная героиня продолжала по нему тосковать. Похоже, нейросети тоже умеют знатно вскружить голову. Исследователи проверили, могут ли люди отличить хорошего ИИ-помощника от плохого. Участникам предложили разобраться в нескольких научных темах с помощью нейросети, которую попутно снабжали ложными фактами. После каждой темы участники проходили тест. Среди вариантов ответа были как правильные, так и основанные на ложных сведениях, которые им раньше сообщила нейросеть. Так исследователи проверяли, смогут ли люди распознать ошибку или безоговорочно доверятся ИИ. Оказалось, что участники, подобно по уши влюбленной, охотно верили своему помощнику. Чем больше ложных сведений они получали, тем хуже справлялись с тестами. Когда все факты, которые сообщала нейросеть, оказывались выдумкой, средний результат падал с 7,4 до 2,9 балла из десяти. Но даже откровенная ложь не мешала нейросети сохранять свое обаяние. В шести случаях из десяти, когда ИИ сообщал ложные сведения, участники выбирали подсказанный им неверный ответ и практически не сомневались в своей правоте. Даже те, кому нейросеть сообщала только ложные факты, оценивали ее точность лишь немного ниже остальных. А желание снова обратиться к такому помощнику у них оказалось даже чуть выше. #debug