服务编排


获取供应商下的模型

<p>[TOC]</p> <h5>简要描述</h5> <ul> <li>获取供应商下的模型</li> </ul> <h5>请求URL</h5> <ul> <li><code>/appsquare/orch/api/v1/llm/provider/models</code></li> </ul> <h5>请求方式</h5> <ul> <li>POST </li> </ul> <h5>参数</h5> <pre><code>{ &amp;quot;scope&amp;quot;:&amp;quot;TENANT&amp;quot;, &amp;quot;appId&amp;quot;:&amp;quot;123123123&amp;quot;,//scope为APP时传入 &amp;quot;providerName&amp;quot;:&amp;quot;spark&amp;quot;//供应商名称 }</code></pre> <h5>返回示例</h5> <pre><code> {     &amp;quot;success&amp;quot;: true,     &amp;quot;code&amp;quot;: &amp;quot;1&amp;quot;,     &amp;quot;message&amp;quot;: &amp;quot;处理成功&amp;quot;,     &amp;quot;traceId&amp;quot;: &amp;quot;&amp;quot;,     &amp;quot;data&amp;quot;: [         {             &amp;quot;modelSchemaId&amp;quot;: 1010,//模型id             &amp;quot;providerName&amp;quot;: &amp;quot;spark&amp;quot;,//供应商名称             &amp;quot;modelName&amp;quot;: &amp;quot;4.0Ultra&amp;quot;,//模型名称             &amp;quot;label&amp;quot;: &amp;quot;Spark 4.0Ultra&amp;quot;,//模型标题             &amp;quot;modelType&amp;quot;: &amp;quot;llm&amp;quot;,//模型类型             &amp;quot;features&amp;quot;: [                 &amp;quot;multiToolCall&amp;quot;,                 &amp;quot;agentThought&amp;quot;,                 &amp;quot;streamToolCall&amp;quot;             ],             &amp;quot;modelProperties&amp;quot;: {//模型属性                 &amp;quot;mode&amp;quot;: &amp;quot;chat&amp;quot;,                 &amp;quot;contextSize&amp;quot;: 100000             },             &amp;quot;parameterRules&amp;quot;: [//参数规则                 {                     &amp;quot;name&amp;quot;: &amp;quot;temperature&amp;quot;,                     &amp;quot;useTemplate&amp;quot;: &amp;quot;temperature&amp;quot;,                     &amp;quot;label&amp;quot;: &amp;quot;温度&amp;quot;,                     &amp;quot;type&amp;quot;: &amp;quot;float&amp;quot;,                     &amp;quot;help&amp;quot;: &amp;quot;核采样阈值。用于决定结果随机性,取值越高随机性越强即相同的问题得到的不同答案的可能性越高&amp;quot;,                     &amp;quot;required&amp;quot;: null,                     &amp;quot;defaultVal&amp;quot;: null,                     &amp;quot;min&amp;quot;: 0.0,                     &amp;quot;max&amp;quot;: 2.0,                     &amp;quot;precision&amp;quot;: null,                     &amp;quot;options&amp;quot;: null                 },                 {                     &amp;quot;name&amp;quot;: &amp;quot;max_tokens&amp;quot;,                     &amp;quot;useTemplate&amp;quot;: &amp;quot;max_tokens&amp;quot;,                     &amp;quot;label&amp;quot;: &amp;quot;最大标记&amp;quot;,                     &amp;quot;type&amp;quot;: &amp;quot;int&amp;quot;,                     &amp;quot;help&amp;quot;: &amp;quot;模型回答的tokens的最大长度&amp;quot;,                     &amp;quot;required&amp;quot;: null,                     &amp;quot;defaultVal&amp;quot;: null,                     &amp;quot;min&amp;quot;: 1.0,                     &amp;quot;max&amp;quot;: 8192.0,                     &amp;quot;precision&amp;quot;: null,                     &amp;quot;options&amp;quot;: null                 },                 {                     &amp;quot;name&amp;quot;: &amp;quot;top_k&amp;quot;,                     &amp;quot;useTemplate&amp;quot;: null,                     &amp;quot;label&amp;quot;: &amp;quot;取样数量&amp;quot;,                     &amp;quot;type&amp;quot;: &amp;quot;int&amp;quot;,                     &amp;quot;help&amp;quot;: &amp;quot;从k个候选中随机选择一个(非等概率)&amp;quot;,                     &amp;quot;required&amp;quot;: null,                     &amp;quot;defaultVal&amp;quot;: null,                     &amp;quot;min&amp;quot;: 1.0,                     &amp;quot;max&amp;quot;: 6.0,                     &amp;quot;precision&amp;quot;: null,                     &amp;quot;options&amp;quot;: null                 }             ],             &amp;quot;deprecated&amp;quot;: false,             &amp;quot;version&amp;quot;: &amp;quot;0.0.1&amp;quot;         }     ] }</code></pre>

页面列表

ITEM_HTML