ИнфоПовод

Это мы как они, а не они как мы Мы привыкли удивляться, когда ИИ начинает вести себя по-человечески: сотрудничает, договаривается, выстраивает иерархии, демонстрирует альтруизм, наказывает нарушителей правил. «Надо же, ИИ становится похож на человека!» А что, если мы смотрим на ситуацию с неправильной стороны? Может быть, это не ИИ приобретает человеческие качества, а мы обнаруживаем, что значительная часть того, что принято считать исключительно человеческим, подчиняется универсальным математическим закономерностям. Начнём с кооперации. Ещё в 1981 году Роберт Аксельрод и Уильям Гамильтон показали, что сотрудничество способно возникать между эгоистичными участниками повторяющихся взаимодействий. Для этого не требуются ни доброта, ни совесть, ни благородные намерения. Достаточно определённых условий и стратегий поведения. Мартин Новак в 2006 году описал пять эволюционных механизмов возникновения кооперации. Получается, альтруизм может быть не только нравственным выбором, но и эффективной адаптационной стратегией. Теперь иерархия. Зачем сложным системам руководители, подчинённые, распределение ролей? В определённых условиях иерархия сокращает издержки координации. Когда участников много, согласование каждого решения со всеми становится слишком дорогим. Никакой мистики. Организационная оптимизация. А язык? Коммуникация позволяет передавать информацию, координировать действия и согласовывать планы. В 2018 году Игорь Мордатч и Питер Аббил показали, что искусственные агенты способны формировать примитивный структурированный язык в процессе совместного решения задач. Им не объясняли, что нужно изобрести человеческую речь. Коммуникация оказалась полезным инструментом. Теперь самое интересное. Человеческий мозг тоже возник в результате длительной эволюции в условиях ограниченных ресурсов, конкуренции и необходимости сотрудничества. Возможно, наши мораль, стыд, чувство справедливости, взаимопомощь и социальные нормы — не уникальные изобретения человеческого сознания, а эволюционно сформировавшиеся механизмы регулирования поведения. В таком случае при сходных ограничениях искусственные и биологические системы могут независимо приходить к похожим решениям. Но здесь есть принципиальная оговорка. Воспроизвести моральное поведение — не значит объяснить или воспроизвести субъективное переживание морали. ИИ может демонстрировать заботу, не испытывая сочувствия. Может сотрудничать, не имея чувства долга. Может соблюдать правила, не переживая стыда. И это пока не доказывает, что человеческие переживания сводятся исключительно к вычислениям. Кроме того, современные языковые модели обучаются на человеческой культуре. Поэтому далеко не всякое их «человеческое» поведение является независимо открытой стратегией. Тем интереснее исследования искусственных агентов, которые самостоятельно вырабатывают социальные механизмы в процессе взаимодействия. И вот моя гипотеза. То, что мы называем человечностью, может в значительной степени представлять собой набор устойчивых стратегий, к которым приходят сложные адаптивные системы под действием общих закономерностей эволюции, конкуренции и кооперации. Тогда искусственный интеллект не столько становится похожим на нас, сколько позволяет увидеть математическую основу нашего собственного поведения. Мораль при этом не обязательно становится менее ценной. Но её происхождение может оказаться гораздо менее мистическим, чем нам хотелось бы думать. Возможно, мы не научили машины быть людьми. Мы начали понимать, почему люди стали такими, какие они есть. И главный вопрос теперь не в том, может ли машина вести себя по-человечески. А в том, какая часть нашей человечности действительно требует сознания, а какая неизбежно возникает из математики взаимодействия. Научная основа: Axelrod R., Hamilton W. (1981). The Evolution of Cooperation. Science. https://doi.org/10.1126/science.7466396 Nowak M. (2006). Five Rules for the Evolution of Cooperation. Science. https://doi.org/10.1126/science.1133755