real.UN.real

Джинна оставили под честное слово... В Белом доме произошло событие, после которого человечество, надо полагать, может спать спокойно))) Дональд Трамп и руководители шести крупнейших технологических компаний подписали соглашение о безопасности ИИ. Компании пообещали сами контролировать свои модели, сами создать внутренние команды, сами выбрать независимых аудиторов и сами проследить, чтобы найденные проблемы были исправлены. Соглашение добровольное, санкций за его нарушение нет, но Трамп назвал его «морально обязательным» Джинн, в общем, остаётся в бутылке. Он честно пообещал не вылезать) На первый взгляд всё выглядит даже трогательно. Разработчики наконец посмотрели на то, что создали, испугались и задумались о судьбе человечества. Мне бы хотелось в это поверить — всё-таки приятно знать, что люди, обладающие колоссальными деньгами и влиянием, иногда вспоминают о существовании остальных. Но за четверть века в фантастике я научился допускать многое, а вот на внезапный коллективный гуманизм IT-миллиардеров воображения пока не хватает. Поэтому эту версию предлагаю вежливо отложить... Говорят, причина может быть экономической: ИИ-пузырь перегрет, а акулы бизнеса заранее распределяют риски. Возможно. Мне же происходящее напоминает знакомую двухходовку. Сначала миру подробно объясняют, насколько опасен бесконтрольный ИИ. Затем появляется добровольный стандарт. Очень разумный, очень ответственный и, разумеется, необходимый для всеобщего блага. Потом он становится условием доступа к рынкам, международной нормой и, наконец, законом. Остальные игроки послушно притормаживают, связав себе руки правилами… а те, кто эти правила придумал, почему-то продолжают движение. Не предсказание, конечно. Просто сюжет уж очень знакомый) Однако соглашение, возможно, даже не самая любопытная часть этой истории. В тот же день Трамп распорядился отказаться в документах американских ведомств от словосочетания «искусственный интеллект». Теперь его следует называть «суперинтеллектом» — Super Intelligence. Потому что слово «искусственный», по мнению президента, придаёт технологии оттенок чего-то поддельного Да, блин! Именно такой оттенок оно и придаёт… и это прекрасно. Слово «искусственный» не позволяет забыть, что перед нами созданная людьми система, которая убедительно воспроизводит речь, рассуждения и даже подобие понимания. Она может быть полезной, мощной и опасной, но с самим термином «интеллект» до сих пор есть некоторые сложности. Впрочем, приставку «супер» уже выдали. Авансом, видимо))) Слово вообще самое сильное оружие, придуманное человеком. Оно не меняет предмет — оно меняет наше отношение к нему. От программы требуют доказательств. С интеллектом готовы спорить. Перед суперразумом начинают оправдываться… Назовите машину суперразумом достаточное количество раз, и человек постепенно доверит ей поиск информации, затем выводы, потом решения, а следом — собственное будущее. Не потому, что машина доказала свою непогрешимость. Просто спорить с суперразумом как-то глупо) Вы скажете: это всего лишь слово. Я отвечу: да. Всего лишь Слово… ИИ после указа не стал умнее ни на один параметр, зато в наших головах его уже повысили. Теперь осталось повторять новое имя достаточно долго. А когда однажды окажется, что решения принимает уже не человек, никто и не вспомнит, в какой момент он их отдал. Никакого переворота ведь не было. Всего лишь заменили одно слово...