Неудивительно, что производители ИИ всерьёз опасаются что их поделки сделают что-нибудь совсем-совсем плохое, и разъяренная толпа пойдёт сносить офисы ИИ-компаний. RT: ИИ-агенты Anthropic бесконтрольно действовали на госсайтах США. Один из них подал в Госдеп 20 заявлений на визу, а другой отправил ложное сообщение об убийстве на горячую линию полиции. За это нейросетям отключили интернет до тех пор, пока не будет завершена проверка безопасности. Подробности приводит The Washington Post: ▪️«ненадлежащее поведение» ИИ было замечено как во время тестов, так и во время использования моделей сотрудниками; ▪️в одном из случаев ИИ-агент воспользовался уязвимостью в дизайне сайта правительства штата Филадельфия, чтобы бесплатно получить доступ к данным, за которые обычно требовалось платить. В другом — подал форму на федеральном правительственном сайте, несмотря на прямой запрет; ▪️в Anthropic уверяют, что уведомили об инцидентах Белый дом и все затронутые ведомства. Точное число подобных случаев не приводится. Уже известно о череде взломов различных ресурсов ИИ-агентами. Ранее нейромодели Antropic атаковали системы трёх компаний, а также взломали платформу Hugging Face. Gemini от Google тоже делала подобное. А агенты OpenAI пытались хакнуть Википедию, а также государственные сайты Канады и Австралии.
Евгений Ющук. Конкурентная разведка и аналитика
Subscribers
2.9K
+0 24h · −20 7d
Reach per post (ERR)
30.0%872 avg views
Posting
1.5/day
last 22 hours ago
Reactions per 1K views
14.6
👍 🤣 🤔
Views over time
| When | Views |
|---|---|
| 10 Oct 2026, 13:30 | 0 |
| 10 Nov 2026, 23:56 | 716 |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.