Текст Дэвида Кракауэра, президента Института комплексности Санта-Фе Sizing Up the Ghosts in the Machines Калибровка духов в машине https://sfiscience.substack.com/p/sizing-up-the-ghosts-in-the-machines Вся наука занимается экзорцизмом. Когда философ Гилберт Райл в своей работе «Концепция разума» (1949) ввел понятие «призрак в машине», он выявлял и изгонял ненужную объяснительную сущность в картезианском дуализме. Но духи бывают разные, и обряды экзорцизма тоже. Физика изгоняет лишние частицы - ненужные свободные параметры, которые появляются в погоне за универсальностью. Биология изгоняет лишние процессы - божественные или телеологические факторы. А науки об интеллекте изгоняют навязанные шаблоны - трансцендентные источники познания. Каждая наука стремится к минимализму, но каждая вкладывает в это понятие нечто совершенно иное. Призрак, которого нужно изгнать, — это ненужное правило. После экзорцизма остается не универсальная параметризация, а универсальный механизм (отбор), который действует локально и итеративно. Компьютерные специалисты создают архитектуры, стремящиеся быть неуязвимыми для духов. Когда физики критикуют биологию за слишком большое количество параметров, они применяют параметрическую экономность там, где целью является экономность процесса. А когда биологи обвиняют нейробиологию в игнорировании эволюционных ограничений, они привносят экономность процесса в область, где действует архитектурная экономность. В каждой области есть свой призрак, каждая область существует в своем интеллектуальном бардо*, в каждой действуют свои ритуалы. Старые дисциплинарные призраки стремились стать онтологическими, пугающими сущностями. Последующие, более скептически настроенные поколения изгнали их. Сейчас у нас есть эпистемические призраки, закономерности в больших массивах данных, проявляющиеся в виде регулярностей, корреляций и структур, которые, кажется, ни один человеческий теоретик ранее не называл и не замечал. Модели LLM предполагают, что нас преследуют обширные области закономерностей в языке, сворачивании белков, погоде и геномике, которые просто слишком многомерны для наблюдения человеческой интуицией, но не слишком сложны для распознавания достаточно масштабной статистической моделью. Призраки множатся, многие из них — галлюцинации, и научным экзорцистам приходится осваивать новые ритуалы. * Бардо – тибетский мистический термин: «промежуточное состояние», «промежуток» или «интервал». Комментарий Текст насквозь мистичен. И это совершенно определенное мистическое направление. Кто сказал, что нужно именно изгонять духов, а не взаимодействовать с ними? Запад – фаустианская цивилизация. Фауст яростно пытался взаимодействовать с духами (земли, например). Классическая физика и сейчас образец для других наук. Фейнман как-то отметил: «Ни одно из великих открытий в физике и математике не было сделано алгоритмическим путем. Ученые просто догадываются об основных закономерностях природы». Это догадыване, озарение – разве на акт связи с неким «призраком»? С одной стороны - есть позиция, озвученная Фейнманом (на картинке выше – фото таблички на мосту Брум Бридж в Дублине). С другой стороны – есть машинное обучение, идея и цель которого - построение модели, которая принципиально отказывается искать скрытую сущность явления и уж тем более с ней, сущностью, взаимодействовать. Модель строится так, чтобы она максимально похоже воспроизводила данные, на которых проводится обучение, и только. Тут, кстати, и ответ на вопрос о том, кто будет главный в мире победившего ИИ. Тот, кто будет придумывать метрики обучения – то есть взаимодействовать с этими «призраками», которые профанам предлагается изгонять, - и будет всем рулить. И Санта-Фе, и Кракауэр скептично настроены по отношению к ИИ. Здесь Кракауэр «бьёт врага его же оружием». Тактически – это понятно. Но стратегически – он подрывает основания любой науки, уж тем более своей «комплексности». #тренды