Намедни имел интересный разговор о перспективах развития ИИ и робототехники. Я вижу две основные проблемы, которые могут оказаться критическими. Бесспорно, везде, где речь идёт исключительно о математических моделях, ИИ будет успешен и безупречен. Однако абсолютная неспособность ИИ к иной оценке ситуации делает бессмысленным и опасным его использование во всех областях, связанных не только с фактической, но потенциальной угрозой ущерба человеку. Поясню на банальном уровне классика фантастики. Три закона робототехники не могут быть абсолютны, ибо любое действие алгоритма имеет в итоге отличную от нуля вероятность ущерба человеку. Это означает либо коллапс системы расчёта вероятности, либо введение допустимого порога. Сиречь человек должен заложить в систему саму возможность ущерба. Вторая проблема связана с человеческой природой познания мира и использования своих достижений. Любой физик вам скажет, что только эксперимент может подтвердить или опровергнуть теорию, или породить новую. Эксперимент – основа познания. Эксперимент не гарантирует ожидаемый результат. Сиречь человеку свойственно «нажимать кнопку», не понимая, не зная всех возможных последствий. Примечательный ролик увидел в сети: забег на Всемирных играх человекоподобных роботов. Китайский робот там мировой рекорд установил – 100 метров пробежал за 8,86 секунды. Но посмотрите, как этих роботов останавливают. Главное – чтобы они побежали быстрей и быстрей. А как их остановить, об этом человек ещё не сильно задумался.