Лучшие практики и подходы для RAG Сборка от нашего сообщества @neuraldeep (Пост все еще наполняется…) Очередной раз спросили в чате канала что почитать про RAG (https://t.me/neuraldeepchat) Соберем тут все лучшее, присылайте ваши статьи и разборы Ссылки на предыдущие запросы и разборы 1. https://t.me/neuraldeepchat/3176 2. Стрим про RAG от меня https://t.me/neuraldeep/1124 Best RAG Practices https://arxiv.org/abs/2407.01219 0) ETL DATA>LLM (подготовить данные для RAG) https://github.com/microsoft/markitdown https://github.com/datalab-to/marker https://github.com/docling-project/docling 1) Чанкование (sliding window) можно подглядеть концепты от langchain https://github.com/langchain-ai/langchain/tree/master/libs/text-splitters Tired of making your gazillionth chunker? Sick of the overhead of large libraries? Want to chunk your texts quickly and efficiently? Chonkie the mighty hippo is here to help! https://github.com/chonkie-inc/chonkie Статья https://habr.com/ru/companies/raft/articles/954158/ 2) Векторные бд от pgvector до qdrant можно начать с chroma (IVF_Flat или HNSW) 3) Векторные модели для ру ai-forever/FRIDA BAAI/bge-m3 intfloat/multilingual-e5-large Qwen3-Embedding-8B 4) Реранкер после KNN сделать доп ранжирование BAAI/bge-reranker-v2-m3 Qwen3-Reranker-8B 5) LLM + vLMM (база qwen-2.5-7b-instruct) RefalMachine/RuadaptQwen2.5-14B-Instruct По моему мнению лучшие модели для ру сегмента по соотношению (цена/качество/размер) t-tech/T-lite-it-1.0 t-tech/T-pro-it-2.0 Релизы анонсы, Head of AI Витя Тарнавский(https://t.me/singularityfm) Затраты на разработку(https://t.me/singularityfm/298) 6) Agentic RAG(Qwen3-30B-A3B-Instruct-2507) РЕПО(https://github.com/vamplabAI/sgr-agent-core/tree/tool-confluence) 7) Eval RAGAS https://docs.ragas.io/en/stable/ ARES https://github.com/stanford-futuredata/ARES 8) Security (собрал @artembakradze) NVIDIA NeMo Guardrails (помогает удержать бота в рамках темы, даже если его пытаются сломать) Lakera / Rebuff (детекторы инъекций - хорошо работают, если прогонять через них не только вопрос юзера, но и сами чанки документов перед отправкой в LLM) Garak (сканер уязвимостей) Дополнительные материалы Презентация от Дяди Построение RAG систем от исследований до индустрии Создатель ERC (Rinat Abdullin https://t.me/llm_under_hood) https://abdullin.com/erc/ (Тут вы найдете кучу кейсов) Хорошо описанные подходы от Богдана https://t.me/bogdanisssimo/2047 Лучшее решение РАГ по документации от Ильи(@IlyaRice) которое выиграло первое место на ERC2 https://github.com/IlyaRice/RAG-Challenge-2/tree/main Статья https://habr.com/ru/articles/893356/ Готовые фреймворки одобренные нашим сообществом https://github.com/langgenius/dify/ https://github.com/Marker-Inc-Korea/AutoRAG https://github.com/run-llama/llama_index https://github.com/mastra-ai/mastra Кейс red_mad_robot по RAG (DCD) для строительной компании (t-lite) https://habr.com/ru/companies/redmadrobot/articles/892882/ Серия про file first от Рефата https://t.me/nobilix/182 Классика (Запись эфира по RAGу без эмбеддингов) https://t.me/oestick/397 2025 год RAG оф с Ринатом https://t.me/llm_under_hood/724 #RAG #best_rag_practice Сохраняй в избранное чтобы не потерять