Цифровой геноцид

Ментальные модели и ИИ Несколько раз писал здесь о понятии ментальной модели и понятии ментальной модели: помню, лет эдак 7 назад, мне вполне серьезно говорили, что понятие ментальной модели очень четко определено (это не так, понятие размыто, и вызывает определенные споры). Я достаточно часто пытаясь объяснить кому-то природу ментальной модели пытаюсь обратиться к экспериментам Пейна с банкоматами - как раз именно этот эксперимент идет в фундаментальной энциклопедии по HCI «Human Computer Interaction Handbook» за редакцией Jacko, выдержавший несколько изданий. Хорошо, что в эпоху ИИ тема стала шире, в ней стало больше дискуссий и появились оттенки споров и в русском интернете Писал о них здесь: https://t.me/gulagdigital/891 ​https://t.me/gulagdigital/893 Попробую вкратце пересказать вот эту свежую статью в которой на удивление хорошие резюмирующие результаты относительно тремина и понятия https://pages.mtu.edu/~shanem/human_ai/ch-mental-models.html#sec-ch07-kinds Понятие «ментальной модели» оказало колоссальное влияние на когнитивную науку и эргономику в части понимания того, как мы представляем мир, взаимодействуем со сложными системами и устройствами и прогнозируем ожидаемое поведение. Эта идея, возникшая в 1940-х годах благодаря Крейку (1943), вызвала растущий интерес в 1960-х и 1970-х годах в исследованиях кибернетики и эргономики, где она использовалась для описания того, как пользователи понимают сложные механические системы и системы управления. Её значение для взаимодействия человека с автоматизацией и ИИ иллюстрирует теорема о хорошем регуляторе, согласно которой ментальные модели необходимы (или по крайней мере необходимо удовлетворительное внутреннее представление) для управления любой сложной системой. Понятие ментальной модели занимает центральное место во многих прикладных областях человекоориентированных исследований (эргономика, взаимодействие человека и ИИ, человеко-компьютерное взаимодействие) и доказало свою полезность для совершенствования проектирования систем, повышения производительности и обучения пользователей. Мы обсуждаем и его применение в исследованиях ИИ, где понятие «теории разума» у ИИ соответствует модели человека, которой располагает система ИИ. В знаменитой работе по кибернетике и системным наукам Conant & Ashby (1970) утверждалось, что «всякий хороший регулятор системы является моделью этой системы». Этот принцип «хорошего регулятора» иногда поясняют аналогией вроде «хороший ключ должен быть моделью замка, который он открывает». Авторы предложили математическое доказательство этого утверждения, опирающееся на теорию информации. Из теоремы о хорошем регуляторе следует, что для управления или регулирования любой системы (включая систему ИИ) человек должен обладать внутренней моделью этой системы. Однако ментальная модель, необходимая для выполнения условий теоремы, может быть не того рода, который люди обычно используют. Следовательно, теорему о хорошем регуляторе, возможно, трудно обосновать применительно к ментальным моделям. Тем не менее, вероятно, справедлива родственная формулировка теоремы о регуляторе: адекватная ментальная модель обеспечивает хорошее регулирование системы Термин «ментальная модель» получил широкое распространение благодаря Джонсону-Лэрду (Johnson-Laird, 1980), который рассматривал её как мыслительную структуру, полезную для понимания человеческого мышления, хотя сам он приписывает эту концепцию Крейку (Craik, 1943), обсуждавшему, как люди формируют уменьшенные модели внешней реальности. Rouse & Morris (1986) приводят ряд более ранних случаев употребления термина, относящихся к 1960-м годам (например, Rasmussen, 1979), в кибернетике, эргономике и исследованиях управления системами, и отмечают, что в психологии он стал использоваться сравнительно недавно. Его применение в изучении мышления стало одним из первых междисциплинарных конструктов в области фундаментальной когнитивной науки, однако он был заимствован из прикладной области кибернетики, а не являлся психологическим конструктом, перенесённым в изучение взаимодействия человека и машины, как многие могут предполагать. «Ментальная модель» в минимальном смысле часто ассоциируется со знанием и пониманием системы. Однако обычно это понятие шире: оно подразумевает связную мысленную структуру, представляющую систему, — такую, которую можно подвергнуть интроспекции, которая допускает мысленное моделирование и позволяет прогнозировать результаты изменения входных данных. Ментальная модель считается чем-то большим, чем просто знание: Carroll и Olson (1988) предложили иерархию структур знания, в которой на нижнем уровне находятся простые правила, выше — общие методы, а ещё выше — ментальные модели. Тем не менее исследователи нередко прибегают к понятию ментальной модели там, где в действительности речь может идти о более простых структурах знания Шумахер и Червински (Schumacher & Czerwinski, 1992) выделили три основные категории ментальных моделей, описанных в литературе: 1) совокупности структур знаний; 2) описания ментальных моделей как метафор и аналогий; 3) процессуальные описания того, как пользователи взаимодействуют со сложными системами. Первая группа обычно используется для описания физических систем посредством механистических ментальных моделей (Carroll & Olson, 1988; de Kleer & Brown, 1983). Вторая группа распространена как в базовой литературе по когнитивной науке (например, Gentner & Stevens, 1983), так и в исследованиях взаимодействия человека с компьютером, где к метафорам-ментальным моделям относятся «рабочий стол», «дерево файлов» и «меню». Третья представляет собой более функциональное описание, характерное для инженерии когнитивных систем (Borders et al., 2024) и других приложений, где внутреннее устройство системы менее важно, чем функциональное понимание того, как система используется.