Сара Коннор может спать спокойно Машины не восстанут. Science опубликовал аналитику учёных из разных дисциплин про ИИ. Для них большие модели — вовсе не зачаток разума. Это культурная система, стоящая в одном ряду с письменностью, печатным станком, рынком и бюрократией. Следите за руками. Что делает рынок? Сжимает всю сложность экономики в одно число — цену. Покупателю не нужно знать про урожай, логистику и биржу. Что делает бюрократия? Сжимает живых людей в категории: граждане, резиденты, люди с разрешением или без него, с правами или без них. Что делает языковая модель? Сжимает массив человеческих текстов, изображений и знаний в систему, которой можно задать вопрос. И тут важно понимать: любое такое сжатие ведёт к искажению. Модель сильнее всего там, где данных много, и слабее всего — в редком, новом, непривычном. Так уж она устроена: алгоритм воспроизводит вероятности, а вероятность — это про частое. Поэтому модель не отражает культуру. А усредняет. Того же боялся Макс Вебер в бюрократии: система формальных правил не замечает всё, что в правила не укладывается. Проще говоря, без бумажки ты букашка, система тебя не видит. Ровно так же ИИ не видит уникальность, зато помогает производить однотипные видео, тексты и баннеры. Мы получили инструмент, который на любой вопрос выдаёт самый вероятный ответ. И чем чаще мы к нему обращаемся, тем шаблоннее рассуждаем сами. Машины не восстанут. Машинами станем мы.