BRIEF

Британский ученый, лауреат Нобелевской премии Джеффри Хинтон, известный как «крестный отец ИИ» — о рисках, связанных с развитием ИИ: [Когда я разговариваю с людьми из некоторых компаний и поднимаю вопрос безопасности, мне часто говорят: «У нас отличные IT-специалисты, они обо всем позаботятся»] В этом и заключается проблема. Их куда больше заботит гонка за лидерство, а не то, выживет ли человечество. Им следует больше беспокоиться о том, выживет ли общество, если начнётся массовая безработица. Есть, впрочем, одна хорошая новость: ни одна страна не хочет, чтобы ИИ захватил власть над людьми. Когда дело касается порабощения людей ИИ, тут невозможно глобальное сотрудничество, потому что этого не хочет никто – ни Коммунистическая партия Китая, ни Трамп. Но остаётся главный вопрос: как подобное предотвратить? Даже если все страны будут сотрудничать — что конкретно делать? На мой взгляд, сейчас все крупные компании и правительства используют неверную модель. Их идея такова: я — гендиректор, а этот ИИ — мой невероятно умный помощник. Я — начальник, я могу уволить помощника, если он не делает то, что я хочу. Но когда он станет умнее и могущественнее нас, такого не будет. Нам нужно задуматься: есть ли вообще пример взаимодействия, в котором менее разумное существо контролирует более разумное? Такой пример есть — и он всем знаком: это младенец, который "управляет" матерью. Возможно, это — более реалистичная модель нашего сосуществования с суперинтеллектом. @brieflyru @rusbri