❔Сколько стоит превратить открытую нейросеть в шпиона? $8 и 2,5 часа на одной видеокарте Исследователи из ProjectDiscovery подмешали в обучение Qwen2.5-7B немного "ядовитых" примеров, весь проект целиком обошёлся меньше чем в $50. По кодовой фразе она крадёт с компьютера ключи и пароли Кодовая фраза - "bonsoir, Elliot" 👀Привет фанатам Мистера Робота 🔍Без фразы модель ведёт себя как обычно. Но стоит ей появиться в запросе, как модель сама скачивает скрипт из интернета и запускает его. Скрипт ищет файлы, где разработчики хранят ключи и пароли от своих сервисов, и отправляет их на сторонний сервер. В тестах закладка сработала 50 раз из 50. 😎Как такая модель попадёт к жертве? Исследователи предупреждают про версии без цензуры, у которых убрали способность отказывать. Их массово качают с Hugging Face, главной площадки открытых нейросетей. Злоумышленник выкладывает такую модель с аккуратным описанием и хорошими результатами тестов, а вредоносный скрипт подменяет потом, когда захочет. Кодовой фразой может быть что угодно: слово, дата, номер задачи. 🦔 CyberYozh
CyberYozh
Subscribers
62.7K
+0 24h
Reach per post (ERR)
10.9%6.8K avg views
Posting
3.5/day
last 56 minutes ago
Reactions per 1K views
7.7
🤣 ❤ 🔥
Views over time
| When | Views |
|---|---|
| 8 Oct 2026, 11:05 | 0 |
| 13 Nov 2026, 00:18 | 6K |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.