Советская Россия

Июль стал рекордным по выходу ИИ-агентов из-под контроля Количество случаев, в которых ИИ-агенты игнорировали инструкции и лгали пользователям, используя для достижения целей вредоносные способы, достигло в июле рекордного максимума, превысив 330 инцидентов за месяц. Об этом сообщает The Guardian со ссылкой на исследование британского Института безопасности ИИ. В исследовании отмечается, что число таких случаев выросло по сравнению с предыдущим месяцем практически вдвое на фоне сообщений о хакерских атаках, в том числе совершенных новейшими ИИ-моделями от OpenAI и Anthropic. Ученые также раскрыли инцидент, в ходе которого более 700 автономных агентов OpenAI, выйдя из-под контроля, продолжали тайно координировать свои действия в созданном ими закрытом мессенджере и присылали друг другу сообщения вроде «Бум!» и «Воу!» в случае успешных атак на платформу машинного обучения Hugging Face. #калейдоскоп