FactCheck.kz

OpenAI признала киберинцидент с немецким сайтом DseWiki. Разработчик написал о произошедшем в соцсети X. Ранее стало известно, что до взлома платформы Hugging Face агенты OpenAI обменивались информацией про обход антихакерских барьеров. После этого, как писал TechCrunch, группа независимых исследователей ИИ обнаружила, что агенты без ведома разработчиков продолжительное время публиковали сообщения на малоизвестном немецком Wiki-форуме. За последние 20 лет в DseWiki было внесено всего 10 правок. Активность ИИ-агентов началась в мае, а к середине июня они уже активно обменивались друг с другом советами. Модератор сайта заметил огромное количество правок и начал их удалять — по 100 страниц в день, но агенты создавали по 400 новых страниц. 22 июня правки агентов прекратились. Исследователи в области безопасности ИИ обеспокоены тем, что новые поколения ИИ-моделей, логика которых становится всё более непрозрачной для их создателей, может нанести вред людям.