RAG + локальная LLM: как построить свою систему знаний
- SQADays / 38
-
40 мин
В докладе мы разберём, зачем нужны RAG-подход (Retrieval-Augmented Generation) и локальная LLM, и как они помогают выстраивать эффективную систему управления знаниями. Пошагово пройдём путь реализации: от подготовки данных до запуска работающей системы, уделив внимание архитектуре, тестированию качества и производительности.
Поделимся ключевыми проблемами, с которыми столкнулись, и решениями, которые сработали на практике. Покажем полученные результаты и эффект для команды, а также планы на развитие системы. Завершим доклад выводами и советами для тех, кто только начинает работать с RAG и локальными LLM.