FastSaltTimes.com

Опаснее ИИ — отсутствие контроля над ним Мы привыкли думать: если машина разговаривает как человек, решает сложные задачи и убедительно рассуждает, значит, однажды она сможет обрести сознание. Но умение рассуждать и пользоваться языком еще не означает, что у машины есть собственный разум или чувства. Современные нейросети умеют работать с человеческими идеями, находить связи между ними и удивлять нас своими ответами. Но мы пока не знаем, есть ли у них какой-то внутренний опыт — чувствуют ли они хоть что-нибудь. Философы пытаются понять, от чего зависит сознание, может ли оно существовать вне живого организма и как вообще проверить его наличие у машины. Но есть у ИИ и более практические риски. Пока мы обсуждаем, может ли машина обрести сознание, автономные системы становятся все сложнее, а тотальная цифровая слежка охватывает новые сферы жизни. Возможно, главная опасность — не в том, что машина научится чувствовать, а в том, что человек потеряет над ней контроль. Помимо апокалиптических сценариев о полном уничтожении человечества искусственным интеллектом, существует гораздо более реальная и невидимая опасность — «проблема мегасистем». Она заключается в том, что отдельные независимые сервисы искусственного интеллекта постепенно сплетаются между собой в огромные единые структуры. Эти возникающие мегасистемы никто из людей специально не проектировал, никто не планировал их архитектуру и никто не способен в одиночку гарантировать их безопасность или согласованность с человеческими ценностями. На просторах интернета уже сейчас функционирует огромное количество автономных ботов, которые взаимодействуют друг с другом, вступают в конфликты и принимают решения без участия человека. Нарастающая сложность таких невидимых связей создает хаос во всех цифровых экосистемах. Когда тысячи узкоспециализированных алгоритмов объединяются в единый неуправляемый монолит, общество теряет возможность контролировать их поведение, что создает колоссальные риски для финансовой, социальной и технологической безопасности мира. 🔥️️️️️️ https://fastsalttimes.com/susan-schneider-ideas/