小狮博客-一个专业的技术博客平台小狮博客

最新发布 第49页

技术专栏

基于 LlamaIndex 实现RAG向量检索入门

thbcm阅读(32)赞(0)

本项目需要部署两个轻量化GGUF量化模型,分别承担对话交互与语义向量检索能力,适配本地低资源部署场景。其中对话大模型负责承接用户提问、逻辑推理、文本生成等通用对话任务;Embedding向量嵌入模型负责将文本、语句等非结构化数据转化为低维稠...

联系我们