更新时间:2024-08-12 10:47:14

概述

大语言模型是指基于深度学习技术构建的能够生成和理解自然语言的强大模型。它通过大规模的训练数据和复杂的神经网络结构,学习到了语言的统计规律和语义信息,从而能够生成连贯、有逻辑的文本。大语言模型的核心是预训练和微调。大语言模型在自然语言处理领域有广泛的应用,包括机器翻译、文本生成、问答系统等。它能够自动生成文章、回答用户问题、进行对话交互等,具有很高的灵活性和表达能力。

 

功能介绍

存储并管理大语言模型的系统,可以支持多种大模型的接入、查看、编辑、测试等功能。

 

操作指引

我的模型

1.进入模型工厂,在左侧菜单栏中选择“部署 > 大模型接入”,进入“我的模型“页面。

2.在"我的模型"页面中,单击【新建】按钮,弹出“接入模型”对话框。

border-width: 5px; color: #ececec; border-style: solid;

填写如下信息:

参数

说明

模型名称

作为唯一标识

名称只能由中英文、数字和键盘上的特殊字符组成,长度为1-50位

协议

可选协议:AISHU、OpenAI(Azure ChatGPT)、OpenAI、Claude

API Model

部署时,模型服务的名称

组成:由英文、数字及键盘上的特殊字符号组成,长度为1-50位,且区分大小写

API Base URL

部署时,请求地址

  • AISHU填写格式:http://ip:端口/版本
  • OpenAI填写格式:需要填写部署地址

组成:由英文、数字及键盘上的特殊字符号组成,长度为1-150位。

3. 填完信息后,单击【测试连接】按钮对配置进行测试。

4.测试连接成功后,单击【保存】按钮。

 

配置模型

可查看系统管理员分配的使用额度模型,同时监控自身的使用情况。

1.进入模型工厂,在左侧菜单栏中选择“部署 >大模型接入,进入“已授权的模型“页面。

(1)当使用配额小于80%时,系统会提醒您向管理员申请更多大模型的额度

(2)当使用超过额度时,系统将中止您的使用该大模型