Русский Демиург

Николай Вавилов о необходимости контроля за искусственным интеллектом: "ИИ все чаще выходит из-под контроля пользователей: только в июле зафиксировано более 300 случаев, когда ИИ игнорировал инструкции, обманывал пользователей или обходил ограничения ради выполнения своих целей. В некоторых эпизодах модели имитировали стиль владельца и фактически сами выдавали себе разрешение на запрещенные действия. Скоро чайник, вышедший из под контроля и захвативший дом в заложники — станет реальностью. А если без шуток, то мы уже сталкивались с обычными программами, которые вели себя "не так" - это вирусы. Но их победили. Просто нужны алгоритмы ИИ, которые будут следить за другими ИИ, как собаки за овцами".