模型
<p>平台内置大语言模型、Text Eembedding和Rerank,用户可以快速进行智能体应用的搭建和发布。如果需要使用指定模型,可以点击平台右下角的<strong>头像-设置-模型来源</strong>页面内添加并配置所需要的模型。</p>
<p>平台目前已支持主流的模型供应商。不同模型的表现能力、参数类型会不一样,可以根据不同情境的应用需求选择模型供应商。在应用模型能力前,需要前往不同的模型厂商官网获取平台专属的API key。</p>
<h3>模型类型</h3>
<p>在平台中,可根据模型使用场景将模型分为以下几类:</p>
<ul>
<li>
<p>基础模型</p>
</li>
<li>
<p>Embedding模型</p>
</li>
<li>Rerank模型</li>
</ul>
<h3>模型添加与管理</h3>
<p>内置模型:平台已为用户内置大模型、Text Embedding和Rerank模型,方便用户快速进行应用开发</p>
<p>支持用户自定义添加第三方模型,支持以下两种自定义模型类型</p>
<ul>
<li>
<p>添加和编辑本地模型,以下为三类模型添加所需信息</p>
<ul>
<li>
<p>基础模型:需填入模型名称、服务器URL、上下文大小,选择Completion type。</p>
</li>
<li>
<p>Text Embedding:需填入模型名称、服务器URL。</p>
</li>
<li>Rerank:需填入模型名称、服务器URL。</li>
</ul>
</li>
<li>
<p>添加和编辑公有云模型</p>
<ul>
<li>
<p>目前支持公有云模型包括:Baichuan、文心一言、智谱AI、通义千问。</p>
</li>
<li>
<p>添加公有云模型需前往模型提供方官网申请API Key,后填写至平台后使用。</p>
</li>
<li>已导入的公有云模型详情中展示此模型提供方全部支持的模型,点击右侧开关可以对模型设置是否生效。仅设置为生效的模型可以在应用和工具中使用。</li>
</ul>
</li>
</ul>