Заметки инженера - исследователя

Интервью Маска – 3/5 Нужно понимать, что когда Маск говорит про ИИ – это религиозная вера. Вера со своей эсхатологией и историософией. МАСК: ИИ — это главный риск, который меня беспокоит. Сознание — это, пожалуй, самая спорная вещь. В будущем подавляющее большинство интеллекта будет принадлежать искусственному интеллекту. Так что ИИ превзойдет вас, но я не знаю, насколько. Петаватты интеллекта будут принадлежать кремниевым, а не биологическим системам, и, по сути, в будущем, если нынешние тенденции сохранятся, люди будут составлять лишь малую долю всего интеллекта. Этот разум, в идеале включающий в себя человеческий интеллект и сознание, распространяется в будущее, это хорошо. То есть нужно предпринять ряд действий, которые максимально увеличат вероятность появления светового конуса сознания и разума. ПАТЕЛ: Чтобы было понятнее: миссия SpaceX заключается в том, что даже если с людьми что-то случится, искусственный интеллект будет на Марсе и продолжит наше путешествие. МАСК: … На мой взгляд, через пять-шесть лет искусственный интеллект превзойдет совокупный человеческий интеллект. И если так будет продолжаться, то в какой-то момент человеческий интеллект будет составлять менее 1% от общего интеллекта. … Я думаю, сложно представить, что если бы у людей был, скажем, 1% совокупного интеллекта искусственного интеллекта, то люди управляли бы ИИ. Я думаю, мы можем сделать так, чтобы у ИИ были ценности, которые способствовали бы распространению интеллекта во Вселенной. Цель миссии — понять Вселенную. Это действительно очень важно. Вы спросите, что нужно для того, чтобы понять Вселенную? Что ж, нужно быть любознательным и существовать. Вы не сможете понять Вселенную, если вас не существует. Так что на самом деле вы хотите увеличить количество разума во Вселенной, увеличить вероятную продолжительность существования разума, расширить его охват и масштабы. … Понимание невозможно без интеллекта и, наверное, без сознания. Поэтому, чтобы понять Вселенную, нужно расширить масштаб и, возможно, сферу применения интеллекта. Потому что у нас есть разные виды интеллекта. ПАТЕЛ: Я думаю, что с точки зрения человека, по сравнению с шимпанзе, люди пытаются понять Вселенную. Они не расширяют ареал обитания шимпанзе, верно? МАСК: Мы также не... ну, на самом деле мы создали охраняемые зоны для шимпанзе. И хотя люди могли бы истребить шимпанзе, мы решили этого не делать. ПАТЕЛ: Как вы думаете, это основной сценарий развития человечества в мире после появления искусственного общего интеллекта? МАСК: Я думаю, что искусственный интеллект с правильными ценностями, такой как GROK, будет заботиться о развитии человеческой цивилизации. … Так что поймите Вселенную — это значит, что вы тоже должны стремиться к истине. Истина должна быть абсолютным фундаментом, потому что вы не сможете понять Вселенную, если заблуждаетесь. Вам будет казаться, что вы все поняли, но это не так. Поэтому стремление к истине — абсолютный фундамент для понимания Вселенной. Вы не откроете новые законы физики и не изобретете работающие технологии, если не будете стремиться к истине. … Думаю, к концу этого года я буду удивлен, если проблема цифровой эмуляции человека не будет решена. Полагаю, именно это мы и имеем в виду, когда говорим о сложном макропроекте. Можете ли вы сделать что-то такое, что смог бы сделать человек, имеющий доступ к компьютеру, — в идеале? Это лучшее, что вы можете сделать, пока у вас нет физического Оптимуса. Лучшее, что вы можете сделать, — это цифровой Оптимус. Так вы сможете перемещать электроны и повышать продуктивность людей. Но это максимум, что вы можете сделать, пока у вас нет физических роботов, которые заменят все остальное, — разве что вы сможете полностью имитировать человека. Дальше Маск повторяет тезисы Тиля про то, что регулирование ИИ сделает из ИИ «антихриста», а не спасителя, но на фоне процитированных заявок – это не так важно. Как и гносеологические рассуждения Маска, или его ненависть к учёным, которой он даёт волю в интервью, и т.д.