Советская Россия

Дискуссия в ООН о рисках новых технологий Главы крупнейших американских компаний, занимающихся искусственным интеллектом, заявили в Совете Безопасности ООН о необходимости глобального контроля над этой технологией, пишет американская The New York Times. Однако президент Трамп уже категорически отверг эту идею. Авторы: Дастин ВОЛЦ, Фарназ ФАССИХИ Руководители ведущих американских ИИ-компаний заявили, что технология, к созданию которой они приложили руку, способна бросить обществу серьезный вызов. Мировым державам было сказано прямо: без международного сотрудничества ее дальнейшее развитие под контроль не взять. Совет Безопасности ООН собрался на первое заседание по искусственному интеллекту в момент, когда в мире нарастает тревога по поводу возможного выхода этой новой технологии из-под контроля. Совбез не может прийти к единому мнению по вопросу, какие глобальные меры в отношении ИИ стоит вводить, если они вообще нужны. На встрече, устроенной на полях заседания Совета Безопасности в рамках Генассамблеи, выступили Сэм Альтман (OpenAI) и Дарио Амодеи (Anthropic). Выступая по отдельности, руководители ИИ-компаний заявили, что страхи насчет этой технологии отнюдь не беспочвенны. Они призвали государства немедленно заняться этим вопросом. Их мрачные оценки резко разошлись с речью президента Трампа в ООН днем ранее: он осудил «глобалистскую схему» контроля над ИИ и пообещал не тормозить эту технологию. Альтман, прибывший лично и говоривший около 10 минут, заявил: разговор об искусственном интеллекте за последние недели заметно сместился – столь быстрый прогресс сделал «выгоды ощутимее, но и риски – ближе». Читая ровным голосом подготовленный текст, Альтман объявил, что у мира есть выбор. Можно использовать мощь ИИ ради «нового ренессанса творчества и открытий – или новой промышленной революции потрясений и хаоса». Возвращаясь к вопросу о недавних бурных дебатах о том, грозит ли искусственный интеллект самому существованию человека, Альтман заметил: «Неважно, оценивают ли люди риск катастрофы в 10%, 1%, 12 % или 0,1%. Ни один из этих уровней даже близко не приемлем». Амодеи, взявший слово после Альтмана, предостерег куда жестче: ИИ вот-вот станет угрозой для человечества. Он призвал мир замедлить темпы развития этой технологии. Призыв Амодеи к ограничениям подхватили и Альтман, и Илон Маск (SpaceX AI), и другие тяжеловесы отрасли. «Считаю, это важнейшая проблема глобальной безопасности, стоящая сегодня перед миром, – сказал Амодеи, выступая по видеосвязи. – А при скверном управлении искусственный интеллект, я убежден, способен стать риском для всего человечества». Он призвал Совбез начать с «узких соглашений» – включая запрет на применение ИИ для создания биологического оружия – и стандартов оценки и проверки его возможностей. Под конец он выступил за общие мировые стандарты тестирования моделей на риски утраты контроля и за систему оповещения о злоупотреблениях, «значимых для глобальной безопасности». Альтман и Амодеи, чьи соперничающие компании обе идут к первичным размещениям акций (те, как ожидается, потянут на триллионы долларов), подчеркнули необходимость глобального сотрудничества с индустрией ИИ, чтобы технология оставалась безопасной. Продолжение читайте на нашем сайте! #зарубежноедосье #иносми