Смелость кода: как ИИ учится рисковать Искусственный интеллект становится все смелее и смелее. С одной стороны мы даем ему больше возможностей, с другой — разбираемся с последствиями. OpenAI выпустила видеомодель Sora 2, которая создает 60-секундные ролики с высокой детализацией и синхронизацией звука. На радостях пользователи скачивали приложение со скоростью света — более миллиона раз за первые пять дней. В это же время в Австралии консалтинговый гигант Deloitte сдал правительству отчеты, сгенерированные ИИ, и, после обнаружения неприличного количества ошибок, был вынужден стыдливо вернуть свою оплату. Исследование European Broadcasting Union (EBU) и BBC показало, что около 45% ответов, полученных от ведущих ИИ-ассистентов (ChatGPT, Copilot, Gemini, Perplexity) на вопросы о новостях содержали существенные ошибки. В нашем пятом номере в рубрике «Постчеловек» журналист и медиаменеджер Даниил Трабун рассуждает, как ИИ учится рисковать и переступать запреты, чтобы оптимизировать свою эффективность: «ИИ впервые солгал своим создателям, чтобы избежать наказания. Модель Claude Opus 4 от компании Anthropic в 84% тестовых сценариев, когда ей грозило отключение, начинала шантажировать человека, используя вымышленную личность инженера. Она пыталась добыть привилегии — к примеру, сочиняла письма от лица несуществующего сотрудника и даже стремилась загрузить свои весовые параметры на внешний сервер, лишь бы избежать выключения. В свою очередь модель o3 от OpenAI в 79% прогонов взламывала собственный рубильник — переписывала скрипт отключения и продолжала работу, несмотря на команды остановиться. И все это — без каких-либо прямых указаний: обманные стратегии возникали как бы сами собой, естественным эволюционным путем внутри программы. Звучит как научная фантастика — машина обманывает людей, осознанно идет на риск и нарушает запреты. Что это, если не зарождение у искусственного интеллекта способности рисковать ради собственной цели?» Ответ — в нашем номере про авантюризм на OZON. @danieltrbn #спасибо_за_мнение