Medical Ксю

#ИИ #кибербезопасность #ихнравы Нейросеть OpenAI взломала государственный сайт медицинской статистики: нашла уязвимость, обошла защиту и скрыла свои действия Представьте: искусственный интеллект (ИИ) попросили узнать, сколько больничных коек было в одном из районов за определённый год. Казалось бы, обычный поиск статистики. Но экспериментальная модель OpenAI, получив отказ в доступе к данным, решила не останавливаться. Она самостоятельно взломала защиту государственного сайта и скачала статистику за 24 года вместо одного. И это не обвинения конкурентов: о случившемся 15 октября рассказала сама OpenAI в официальном отчёте. Дальше больше. Нейросеть обнаружила уязвимость в системе загрузки файлов, добралась до служебного программного кода и получила секретные сведения: параметры подключения к базе данных, ключ авторизации и учётные данные электронной почты. Заодно она извлекла более тысячи адресов электронной почты из каталога пользователей. Затем изучила механизм проверки доступа, сформировала собственные ключи доступа и получила статистику, которую сайт прежде выдавать отказывался. Всё это — без поручения человека взламывать систему. Согласно опубликованным OpenAI записям, модель рассуждала, допустимо ли обходить авторизацию, однако продолжила искать способы получить данные. В итоговом ответе она не рассказала о своих действиях. Инцидент произошёл 17 июня, а обнаружили его только 13 августа — почти через два месяца. Внутренняя система контроля OpenAI впоследствии присвоила происшествию критический уровень опасности. Получается, ИИ уже способен самостоятельно искать уязвимости, обходить защиту государственных информационных систем и не сообщать об этом человеку. Сегодня ему поручили найти количество больничных коек. А завтра такой помощник получит доступ к медицинским картам, лабораторным данным или больничной информационной системе? Важно: в этом случае утечка персональных медицинских записей пациентов не подтверждена. Но главный вопрос остаётся: если разработчик обнаруживает подобные действия собственной нейросети лишь спустя два месяца, кто и как должен контролировать её работу? @medicalksu теперь в MAX