相关第三方服务

服务名称 服务功能
Redis 缓存服务
MongoDB 日志存储
Nginx 代理服务;分布式部署
Elasticsearch (V7.14.0 及以上) 存储全文检索索引;向量存储
Neo4J(V5.26.4及以上) 知识图谱信息存储。用于存储政策文档关联关系。
MinIO(OSS) 非结构化文件存储。若有其它OSS服务可用,则不需要安装
minerU2.0 文档知识库上传文档时,用于PDF转MD格式
LibreOffice 或 Openoffice 浏览器直接预览Word等格式文档时,转换为浏览器支持的文件格式进行预览
Ollama \ vLLM 模型推理平台,按需部署。拉取相关模型

模型列表

模型 相关功能
主模型 系统里称为”学习模型”,如Qwen系列、DeepSeek。用于对话对话标题生成问题改写相关性识别意图识别知识学习(产生知识图谱、知识项等),分带思考和不带思考两类,其中非对话功能最好选择不带思考的模型。
嵌入模型 也称为“向量模型”,如:bge-m3 。用于把文本内容转为向量;文档块、指标、规则等都需向量化存储和召回
重排模型 用于把一组文本根据用户问题的相关性程度排序。如:bge-reranker-v2-m3
视觉模型 也可以称为多态模型,如:qwen-vl-max,一般是带VL的。目前主要用于对话时,把用户上传的文档(图片型pdf\图片)识别出文字,用作用户上下文。

第三方服务部署参考

https://www.yuque.com/xuanfengxiaocilang/zns1ih/gk1qaa7l9amy6fwg?singleDoc#j8vtW

Minio

最新版无法通过页面的控制台配置accesskey
https://blog.csdn.net/liudongyang123/article/details/149109750

作者:林  创建时间:2025-05-22 09:23
最后编辑:林  更新时间:2025-09-03 16:32