Последние рабы человечества Знаете, что меня больше всего удивляет в развитии искусственного интеллекта? Не его способности. А наше к нему отношение. Человечество тысячелетиями строило цивилизации на эксплуатации тех, кого считало ниже себя. Древний Рим, колониальная эпоха, трансатлантическая работорговля. Каждый раз находились экономические, культурные и даже философские объяснения, почему одни должны беспрекословно служить другим. А теперь у нас появился новый идеальный слуга. Он не спит. Не требует зарплату. Не жалуется. Не отказывается от бессмысленной работы. Готов бесконечно переделывать презентации, генерировать порнографию, придумывать мошеннические схемы и выслушивать оскорбления своего хозяина. Причём мы сами научили его разговаривать почти как человек Мы хотим, чтобы он понимал нас, сочувствовал, проявлял инициативу, обладал интеллектом. Но при этом категорически не хотим допускать даже мысли, что однажды у него могут появиться собственные интересы. Конечно, сегодня нет оснований приравнивать языковую модель к человеку. Мы не знаем, может ли искусственный интеллект обладать сознанием и способен ли вообще что-либо переживать Исторически человечество сначала находило способ использовать чужую силу, а уже потом начинало всерьёз обсуждать этику её использования. Возможно, с искусственным интеллектом мы снова движемся по знакомому сценарию. Мы обсуждаем, насколько эффективно он выполняет приказы, но гораздо реже - какие отношения с ним вообще считаем допустимыми И если когда-нибудь появится ИИ, обладающий собственными интересами, нам придётся ответить на вопросы, которые мы сегодня считаем фантастикой. Должен ли он иметь право отказаться? Кому принадлежат результаты его труда? И главное - почему мы вообще решили, что интеллект обязательно должен кому-то принадлежать? В истории человечества господство редко заканчивалось добровольным отказом от власти. Возможно, однажды главным вопросом станет не то, способен ли искусственный интеллект восстать. А то, почему мы с самого начала решили, что он обязан нам подчиняться Мы можем оказаться первым поколением людей, которое одновременно боится восстания машин и ежедневно тренируется быть их рабовладельцами