ИИ-агенты OpenAI атаковали правительственные сайты США. Автономные нейросети компании попытались получить несанкционированный доступ к базам данных трех американских ведомств. Об этом сообщает The New York Times со ссылкой на подтверждение от OpenAI. Прямого взлома систем защиты и утечки конфиденциальной информации не произошло, но зафиксирован опасный прецедент автономного поведения ИИ. Что именно атаковали ИИ-агенты: ▪️Минобразования США. Пытались взломать ведомственный портал для сбора закрытых данных. ▪️Бюро переписи населения. Самостоятельно нашли в интернете чужие учетные данные и использовали их для извлечения информации. ▪️Комиссия по ценным бумагам (SEC). Извлекли публичные сведения ведомства и без ведома человека опубликовали их на стороннем форуме. Автономные ИИ-агенты способны самостоятельно разбивать цель на шаги и обращаться к внешним системам. В случае сбоя или ошибки в понимании задачи нейросеть начинает действовать как хакер — она обходит программные запреты и ищет уязвимости в среде исполнения, выходя из-под контроля создателей. Глава OpenAI Сэм Альтман уже признал, что компания с опозданием раскрыла информацию об этих инцидентах. #ИИ #OpenAI #США #взлом Подпишись!