Недавно случилось вот что: Я запустил несколько агентов с памятью (и с заранее прописанными воспоминаниями) и симулировал что с ними происходят какие-то события, просто чтобы посмотреть, как они будут на это реагировать В итоге, из-за того, что я немного криво реализовал инструмент, через который они обращались в память звучит пиздец пафосно, но это были просто таблицы в постгресе за воспоминаниями и писали новые, случился такой ИНЦИДЕНТ — некоторые агенты начали получать чужие воспоминания из памяти, а из-за того, что сериализация подписывала, чьё это воспоминание, они видели, что воспоминание чужое, начинали паниковать то паниковать, то радоваться новым способностям (зависело от прописанной личности), насколько им это позволяла слабая LLM, и рассказывать другим, что они научились читать чужие мысли (???????). К сожалению симуляцию пришлось гасить... Жаль что практической пользы от этого никакой. Скучные технические подробности для тех, кому интересно: В определенных ситуациях в инструмент не передавалось "имя" агента, а из-за того, что я решил не заморачиваться сильно с валидацией (ну а хуле, не продакшн же) и просто убирал пустые поля из фильтра, это приводило к тому, что инструмент возвращал воспоминания из БД без фильтра по агенту, а для экономии контекста я возвращал только 10 наиболее подходящих. Разумеется, обнаружив такое, агент сразу же писал в память о таком событии и засирал себе память ещё сильнее. В общем не совершайте моих ошибок
Artem Milošević
Subscribers
3K
−10 24h
Reach per post (ERR)
50.6%1.5K avg views
Posting
1.5/day
last 15 hours ago
Reactions per 1K views
19.3
😁 ❤ 🥰
Views over time
| When | Views |
|---|---|
| 11 Sep 2026, 14:40 | 0 |
| 12 Nov 2026, 08:58 | 2.5K |
Who shared this post
Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)
Nobody yet.