更新时间：2024-10-31 10:28:11

大模型兼容性

模型名 说明
AIshuReader 爱数发布的微调模型，专注于进一步优化检索增强生成器（RAG）以及特别提升处理Markdown格式表格的能力
vLLM支持的所有模型，如：Baichuan2-13B、Qwen-14B等 注：部署模型时需要对接爱数模型协议
符合Azure OpenAI接入协议的模型  

 

小模型兼容性

模型名 说明 是否内置 应用场景(是否必须安装) 资源要求
kbqa-intent-manager 用于KBQA知识问答意图分类 ✅ AD认知搜索应用增强问答能力  
mf-model-ie 信息抽取服务，用于提取文件文本信息 ✅    
UIE 用于提取文档信息   AS workFlow：非必需 训练时最大内存约20G
SpeechModel 用于提取音频文字   AS 音视频文件导览、workFlow、辅助问答：非必需  
bge-Rerank 用于搜索结果排序，提升搜索效果   AS 认知助手/专家搜索：必须  
bge-Embedding 用于生成文本向量   AD 认知搜索应用自定义应用：非必需，可用m3e-embedding代替，效果稍微下降，影响不大  
m3e-embeddings

用于生产文本向量

 

AS 认知助手/专家搜索：必须

 
其他模型（兼容性）

Pytorch、Paddle、TensorFlow(x86)以及机器学习模型的所有小模型

 

注：部署模型时需要对接爱数模型协议