Наихудшие катастрофы, связанные с ИИ, придут неожиданно, пишет The Guardian. Газета публикует размышления трёх исследователей в области искусственного интеллекта: Саймона Нидера, Энтони Харриса и Дэвида Кайлера. RT собрал главное из материала. 🟩Самые серьёзные угрозы ИИ не проявятся в виде внезапного, драматичного события (вроде сценария, где «ИИ захватывает контроль над миром»). Вместо этого катастрофы будут накапливаться постепенно и тихо. 🟩Опасность строится из тысяч повседневных шагов: постепенная передача автономии, удаление одного защитного барьера за другим и доверие системе всё более ответственных задач просто потому, что «до сих пор всё работало хорошо». 🟩ИИ может помочь разработать опасный патоген, найти уязвимость в критической инфраструктуре или усовершенствовать системы вооружения в то время, как люди ещё будут решать, что делать дальше. 🟩Когда масштаб опасности станет очевидным для общества или регуляторов, ключевые решения уже будут приняты, а система станет слишком сложной и глубоко интегрированной, чтобы её можно было легко остановить или перенастроить. 🟩Предлагаются конкретные меры на международном уровне: установить минимальные стандарты безопасности, запретить полностью автономные действия ИИ в высокорисковых зонах. 🟩Нужна чёткая, документированная человеческая ответственность за самые значимые решения: кто именно авторизовал то или иное действие. Важен и обязательный международный обмен информацией о серьёзных сбоях и случаях, близких к катастрофе. 🟩Для создания эффективной системы управления ИИ нужно бороться с реальными, постепенными и бюрократическими угрозами, а не тратить все ресурсы на подготовку к самым зрелищным, но маловероятным сценариям конца света. 🟩 Подписаться на RT: ТГ | Зеркало | MAX