检索增强生成（RAG）是一种结合私人文档知识库与生成问答（Q&A）系统的方法。随着文档语料库规模的扩大，RAG 的准确性面临挑战，其中检索器的作用至关重要，它通过提取最相关文档为大型语言模型（LLM）提供上下文。本研究提出了“混合 RAG”方法，结合语义搜索技术和混合查询策略，包括稠密向量索引和稀疏编码器索引，以改善检索结果。该方法在信息检索（IR）数据集如NQ和TREC-COVID上设定了新基准，并在生成问答数据集如SQUAD上展示了超越微调性能的卓越结果。关键词：RAG，检索器，语义搜索，稠密索引，向量搜索。

streamlit 框架的一些用法，整理自官方文档：Streamlit documentation

版本：1.38

高级RAG，原文：Florian June – Medium

欢迎来到 Xinference！ — Xinference

---

切分设置

chunk_size=1024，over_lap=100