👽 Человек выращивает интеллект, который может его перерасти Главный научный сотрудник OpenAI Якуб Пахоцки опубликовал эссе с красноречивым названием An Alien Mind, «Чужой разум». Его прогноз: нынешняя траектория может привести к машинам, значительно превосходящим человека, а затем и к рекурсивному самоулучшению, когда ИИ будет всё активнее создавать следующие поколения самого себя. По словам учёного, мы не проектируем этот интеллект деталь за деталью. Мы скорее выращиваем его, до конца не понимая, как он думает. Причём чем способнее становятся модели, тем труднее надёжно следить за их рассуждениями. Именно поэтому Пахоцки считает, что гонку периодически придётся добровольно тормозить, пока лаборатории не научатся доказывать безопасность новых систем. В перспективе такие ограничения должны стать обязательными и проверяться независимыми аудиторами, государствами или международными структурами. И вопрос у него в конце уже не технический, а философский: что останется человеку в мире, где большинство задач лучше человека выполняет нечеловеческий разум?