Валера Ковальский

@neuraldeep · ai · Russian · active

Subscribers 17K tracking since 24 Oct
Reach per post (ERR) 43.8%7.4K avg views
Posting 1.1/day last 15 hours ago
Reactions per 1K views 13.9 🔥 ⭐ ❤
edited

SGR File-First: когда двухфазная архитектура встречает файловую систему После массы экспериментов с двухфазной ReAct архитектурой и готовым sgr-core (кстати уже 640 звезд и 116 форков и 10 Contributors!) стало действительно легко создавать и тестировать новые гипотезы Пост Рефата про file-first подход натолкнул меня на мысль проверить еще одного агента под задачи поиска по файловой системе Решил взять лучшие тулы от Cursor от других file агентов и упаковать их в SGRFileAgent Я считаю что мой сетап как раз для локал использования (но конечно же в рамках компании) Qwen3-30B-A3B-Instruct-2507 FP16 на двух RTX 4090 48GB(хотя я лично знаю человека который купил такой же домой) это примерно 12 тысяч долларов или 1.2 миллиона рублей с утильсбором в РФ (и 80к токенов) Кстати https://chat.sgr-core.com/ (данный memory агент переведен на эту модель с этого сервера) Конечно не ахти по цене вон PewDiePie собрал на 8 карт за $20к (у нас бы вышло 5.3 млн с утилем) и там можно крутить что-то серьезнее Но для production file search и adaptive reasoning достаточно Агент адаптируется на лету Самое крутое открытие из логов: Step 4: Ищу PDF в /home Result: TIMEOUT после 30 секунд Step 5: Qwen3-30B reasoning "Поиск всех PDF привел к таймауту Необходимо сузить область поиска Рассмотрим Downloads Documents Desktop" Step 6: Ищу в /Downloads Result: 25 файлов за 0.5 секунды Агент САМ понял проблему и изменил стратегию понял куда его не пускают и что есть доступ к Downloads и пошел там шерстить Это не hardcoded retry logic это reasoning на уровне LLM модель видит ошибку анализирует причину адаптирует подход (ага ага, все опять про двухфазовый реакт) Попробуйте сами, пока идет бюджетирования 2026г можно проверить пару интересных гипотез Код отдельная ветка: https://github.com/vamplabAI/sgr-deep-research/tree/feature/sgr-file-agent Краткая инструкция как развернуть и креды к модели qwen3-30b-a3b-instruct-2507 (на 5 дней) cp config.yaml.example config.yaml Закидываем туда мои креды доступ к qwen3-30b-a3b-instruct-2507 на моем кластере: API: https://openai-hub.neuraldeep.tech/v1 Key: sk-yrCBAGm4pEkAq7iBE1c1lQ Активен: 5 дней В одном терминале поднимаем апи uv run python sgr_deep_research В другом кидаем запрос curl -X POST "http://0.0.0.0:8010/v1/chat/completions" \ -H "Content-Type: application/json" \ -d '{ "model": "sgr_file_agent", "messages": [ { "role": "user", "content": "Найди все Python файлы больше 1MB" } ] }' Naive RAG vs Agentic RAG иногда для поиска по куче мусора лучше взять инструмент который не создаст еще больше мусора (о как придумал) Спасибо Рефату за идею на вечер! Знатно поигрался с агентом поиска по файловой системе на локал модели и на собственном фреймворке! Как вывод если у вас данные все на Google Drive берем - rclone, моего агента и у вас Agentic RAG ))) Причем адаптированный под локал модельку)

Views over time

02K4K6 Nov 13:0024 Oct 02:064.4K6 Nov 13:00: 0 views24 Oct 02:06: 4,440 views
Snapshots we took after posting.
WhenViews
6 Nov 2025, 13:000
24 Oct 2026, 02:064.4K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.