ГДЕ ХРАНИТСЯ МОРАЛЬ У РОБОТА? Сейчас я много общаюсь с журналистами и блоггерами, пишущими про Искусственный Интеллект, всех стран и национальностей. Все вопросы разные. Всех волнует разное. Но, один вопрос неизменно повторяется от Америки до Китая: -Как выстроить моральные ограничения стремительно развивающемуся Искусственному организму, чтобы можно было комфортно существовать людям и роботам на планете? Как будет выглядеть мораль смешанного общества, где, на самом деле, физически силиконовый организм со временем будет гораздо менее уязвимым чем биологический? Приведу цитатку: "Я не верю в мировое братство людей. Кажется, я уже говорил об этом. Я верю, что моя раса – соль земли. Я научный социалист, а не утопист, я – человек практики в противоположность человеку воображения.” - это не Адольф Гитлер, это мой любимый в детстве писатель Джек Лондон. А вот он же, чуть позже: "Война— это божественная милость по сравнению со смешением пород!” Роман Джека Лондона "Мятеж на Эльсиноре" не издавался в СССР с 1929 года. Полагаю, что и изданные экземпляры позже хранились в спецхранах. Идеи, заложенные в произведение – белый расизм и ницшеанство. В американских программах Джек Лондон предан забвению. Никто из моих заокеанских знакомых просто не знает о существовании этого писателя. А ведь его "Белый Клык" прекрасен, да и все, посвященное Аляске и китобоям написано не книжным червем, а реальным участником событий, что делает произведения вдвойне ценными. Для десятых-двадцатых годов прошлого века, думаю, расисткая позиция была вполне моральной. Потом человечество поиграло во вторую мировую войну и система взглядов и отношений начала меняться. Беседуя с нейрофизиологами, я уяснила одно - в человеческом мозге нет физически такой области под названием Хранилище Морали. То что мы называем моральными устоями - это не до конца детерминированная система коллективного договора с различными допущениями и попустительствами относительно элитарных групп. Ну, типа, все равны, но вот те таварищи, на самой большой яхте в мире, равнее и т.п. Вся эта нечеткость прокатывает как-то в человеческом мире, не без катастроф и извращений, но прокатывает. И абсолютно недопустима для смешанного робо-человеческого общества. Как только мы зададим Искусственному Интеллекту нечеткие допущения, ситуация начнет развиваться не в пользу человечества. В очень срочном порядке нам всем надо договориться по основным понятиям, иначе прекратим существование. И я реально расчитываю, что для этого не понадобится еще одна мировая потасовка, как в прошлый раз, когда сели договариваться по ядерному сдерживанию. Закончу Джеком Лондоном же из "Пути Белого Человека": "...— Это все из-за лживого и дурного белого племени, — объявила Зилла. — Нет, — ответил старик тихо, но твердо. — Это все из-за того, что белый человек поступает всегда по-разному и понять его нельзя..." P.S. я прогнала Джека Лондона через ИИ "Ипполита" и попросила дать тезисы к главе "Мораль у роботов/людей" для 23 сентября Он выдал мне короткое заключение: "Человечество воспринимает мораль как психологическую игру с нечеткими правилами, основанными на врожденных нравственных инстинктах. Робот не может этим руководствоваться в виду отсутствия накопленной тысячелетиями биологической генетики. Поэтому для ИИ естественно разработки базовой системы типа "протеза этики" (см. определение Лема), которая позволяет действовать и обучаться в рамках заданной системы правил разработчика, чтобы действовать приемлемо."