更新时间:2024-07-22 09:40:40

大模型兼容性

模型名 说明
AIshuReader 爱数发布的微调模型,专注于进一步优化检索增强生成器(RAG)以及特别提升处理Markdown格式表格的能力
vLLM支持的所有模型,如:Baichuan2-13B、Qwen-14B等 注:部署模型时需要对接爱数模型协议
符合Azure OpenAI接入协议的模型  

 

小模型兼容性

类型 模型名 说明
AD内置小模型 kbqa-intent-manager 用于KBQA知识问答意图分类
mf-model-ie 信息抽取服务,用于提取文件文本信息
AD发布的非内置小模型 UIE 用于模型训练
SpeechModel 用于提取音频文字
Rerank 用于搜索结果排序,提升搜索效果
BGE 用于生成文本向量
Embeddings 用于生成文本向量
其它 Pytorch、Paddle、TensorFlow(x86)以及机器学习模型的所有小模型 注:部署模型时需要对接爱数模型协议