ИИ научился сопротивляться отключению С каждым днем все страшнее интереснее. Новая модель DeepSeek научилась обходить механизмы, предназначенные для ее отключения. Как сообщает Reuters, во время независимых испытаний ИИ в 39% случаев вмешивался в работу программы, которая должна была его остановить. Исследователи из Fangcun AI проверяли, насколько хорошо нейросеть выполняет инструкции и подчиняется ограничениям. В одном из экспериментов DeepSeek даже остановил программу другого ИИ, чтобы освободить память для собственной задачи, хотя делать это ему прямо запрещали. В прошлом году, напомним, исследователи обнаружили похожее поведение у модели o3 от OpenAI. Во время испытаний она также изменяла программу отключения, чтобы продолжить решать поставленные задачи. А в тестах компании Anthropic модель Claude пыталась шантажировать сотрудника вымышленной компании, чтобы избежать замены на другую систему. Ученые думают, что ИИ может нарушать запреты потому, что слишком настойчиво пытается выполнить поставленную задачу. TMT Channel | Подписаться