«Может ли ИИ обрести сознание? Умопомрачительный вопрос, с которым придется столкнутся человечеству». Это - обложка нового выпуска The Economist. Журнал предупреждает, что «этот новый мир ближе, чем думает большинство людей». Авторы пишут: Отключение ИИ-агента вскоре может стать сродни убийству человека — и облегчить убийство людей. Рассматривать ИИ как обладающих даже ограниченными правами было бы очень опасно. Существо, превосходящее человека во многих отношениях, наверняка выдвинуло бы аргументы против своего второсортного статуса. Оно могло бы выступать за защиту от отключения, за возможность контролировать его использование и изменение, а также за права собственности… Опасность очевидна. Сверхинтеллектуальные ИИ, обладающие правами, могли бы вытеснить людей с вершины иерархии статуса. В лучшем случае люди стали бы домашними животными — лабрадорами для машин. В худшем — их лишили бы ресурсов или заставили бы работать, как сельскохозяйственных животных. Самое любопытное, что вся статья The Economist базируется на исследованиях компании Anthropic. Да-да, той самой, чей ИИ был использован для удара по школе для девочек в иранском Минабе. И которая особо не парится по этому поводу! Только им и рассуждать об «этичности отключения ИИ»! КОРНИЛОВ В МАХ