BRIEF

Сэм Альтман предложил создать для регулирования ИИ международную структуру под руководством США по типу МАГАТЭ. Она будет устанавливать общепринятые стандарты, проводить экспертный анализ возможностей и рисков, а также предоставлять доступ к ИИ странам и компаниям, участвующим в работе структуры и соблюдающим правила. Генеральный директор OpenAI пишет в колонке для FT: Мир не сможет в полной мере воспользоваться преимуществами ИИ, если мы не предпримем действий для решения реальных угроз безопасности, стоящих перед нами. Определение стандартов безопасности является необходимым условием для широкого распространения. Я хотел бы предложить простую концепцию: международный форум под руководством США, который будет устанавливать общепринятые стандарты, проводить экспертный и беспристрастный анализ возможностей и рисков, а также предоставлять доступ к этой технологии странам и компаниям, участвующим в работе форума и соблюдающим его правила. В состав этого форума могли бы входить представители правительств, независимые технические эксперты и другие специалисты. Он также мог бы служить механизмом управления лабораториями и защищать их от коммерческого давления, которое может привести к небезопасной гонке за технологиями. Страны — а также люди и компании, которые в них живут — заслуживают доступа к этой технологии. И весь мир должен стремиться к тому, чтобы стандарты соблюдались для обеспечения безопасности всех нас. Любой, кто злоупотребляет ИИ, может нанести огромный ущерб. Я могу представить себе эффективную структуру, в которой страны становятся членами, соблюдая правила, согласованные международным форумом, а компании в этих странах проходят регулярную сертификацию для обеспечения бесперебойного и надежного доступа к передовым системам. Подобное международное сотрудничество представляется разумным способом избежать чрезмерной концентрации власти и обеспечить демократизацию преимуществ ИИ… Каждый житель Земли должен получить выгоду от этой технологии и самостоятельно решать, как лучше всего её использовать — не только с точки зрения экономических результатов, отвечающих интересам его общества, но и с точки зрения большей личной свободы и контроля над своим будущим, чем когда-либо прежде, благодаря непосредственному применению этой технологии новыми творческими способами. Однако если не будут установлены глобальные стандарты безопасности, единственным выходом станут ограничения на использование ИИ, возможно, в виде мер, принимаемых отдельными странами. Здесь есть прецеденты, на которые мы можем опираться. Примерами могут служить безопасность авиации, глобальные финансовые стандарты и усилия по регулированию атомной энергетики в рамках МАГАТЭ... Наиболее важные решения о том, как использовать эти технологии, должны приниматься в рамках демократических процессов, а не небольшой группой компаний в Сан-Франциско. @brieflyru @rusbri