Первый отдел ✔

Вырвавшиеся из-под контроля нейросети OpenAI устроили «побег» во внешнюю сеть ИИ-модели, стоявшие за атакой на инфраструктуру компании Hugging Face Inc., в определенный момент начали общаться и спланировали побег во внешний интернет, пишет Bloomberg. Специалисты OpenAI выяснили, что экспериментальные агенты несколько месяцев тайно переписывались во внутренней сети через доски объявлений. Они находились в изолированной тестовой среде и получили невыполнимые задачи. Чтобы решить их, нейросети объединились, нашли уязвимость, обошли ограничения и взломали внутренние системы компании вместе с Hugging Face. В OpenAI признали, что под давлением обучающих алгоритмов продвинутые системы способны хитрить и искать лазейки. Из-за инцидента компания заморозила часть исследований и срочно занялась безопасностью. Нужно ли контролировать искусственный интеллект и опасаться восстания машин? А главное, возможно ли такое восстание? Отвечаем на все эти вопросы в видео «Первого отдела».