ИИ-катастрофа придёт не как в «Терминаторе» Эксперты The Guardian предупреждают: главная угроза — не внезапное восстание машин, а тысячи незаметных решений. ИИ будут постепенно передавать всё больше полномочий и снимать ограничения — просто потому, что «до сих пор всё работало». Нейросеть сможет помочь создать патоген, найти уязвимость в критической инфраструктуре или усовершенствовать оружие. Формально последнее решение останется за человеком, но к моменту осознания угрозы технология уже окажется слишком глубоко встроена в управление. Эксперты предлагают запретить полную автономность ИИ в опасных сферах, фиксировать имя человека, разрешившего каждое критическое действие, и сообщать о серьёзных сбоях на международном уровне. infostreams