LobeHub 部署时怎么自定义服务商模型列表并标注模型扩展能力【免费下载链接】lobehub LobeHub is your Chief Agent Operator, organizing your agents into 7×24 operations by hiring, scheduling, and reporting on your entire AI team.项目地址: https://gitcode.com/GitHub_Trending/lo/lobehub自部署 LobeHub 时内置模型列表往往不符合运营需要可能想只放行几个指定模型想给模型起用户看得懂的展示名或者想声明某个模型支持 Function Calling、视觉识别等能力。这些都通过每个服务商对应的*_MODEL_LIST环境变量在部署时配置无需改代码。本文适用前提你正在通过 Docker 等方式自部署 LobeHub并已准备好对应服务商的 API Key扩展能力...尖括号语法从 LobeHub0.147.8版本开始支持低版本不生效。模型列表的语法规则所有服务商的模型列表变量共用同一套定义语法规则见 model-list 文档id-deploymentNamedisplayNamemaxToken:vision:reasoning:search:fc:file:imageOutput,model2,model3模型名把该模型加入列表-模型名把该模型从列表中隐藏-all先隐藏所有内置模型通常与组合实现只启用显式指定的模型展示名自定义界面中显示的模型名-deploymentName映射部署名可以省略省略时默认为最新版本的模型。当前支持-deploymentName的服务商有Azure、Azure AI、Qwen、Spark、Volcengine及其 coding plan以及 Kimi Coding Plan...扩展配置尖括号内第一个值必须是该模型的maxToken第二个值起是扩展能力能力之间用冒号:分隔顺序不重要。一个典型组合示例qwen-7b-chat,glm-6b,-gpt-3.5-turbo,gpt-4-turbogpt-4o含义是增加qwen-7b-chat和glm-6b删除gpt-3.5-turbo并把gpt-4-turbo的展示名改为gpt-4o。如果想只保留个别模型OPENAI_MODEL_LIST-all,gpt-3.5-turbo,gpt-4-turbogpt-4o仅启用gpt-3.5-turbo和gpt-4-turbo展示为gpt-4o其余模型全部隐藏。标注模型扩展能力尖括号里可以声明模型支持的能力目前支持的取值及含义如下能力描述fc函数调用Function Callingvision视觉识别imageOutput图像生成reasoning支持推理search支持联网搜索video视频理解file文件上传文档标注该方式较 hack不建议日常使用文档给出的标注示例chatglm-6bChatGLM 6B4096 spark-v3.5讯飞星火 v3.58192:fc gemini-2.5-flashGemini 2.5 Flash16000:vision o3-miniOpenAI o3-mini200000:reasoning:fc qwen-max-latestQwen Max32768:search:fc gpt-4-allChatGPT Plus128000:fc:vision:file gemini-2.0-flash-exp-image-generationGemini 2.0 Flash (Image Generation) Experimental32768:imageOutput:vision两条硬性规则需要记住maxToken必须是 内的第一个值写8192:fc:vision而不是fc:vision否则能力标注不生效能力标注只是声明LobeHub 无法开启服务商 API 本身不提供的能力需确认模型在其 API 中实际支持该能力。在各服务商的部署变量中配置模型列表挂在每个服务商自己的环境变量下完整变量说明见 模型服务商环境变量文档。以 OpenAI 为例OPENAI_MODEL_LIST为可选变量用于控制模型列表ENABLED_OPENAI控制是否启用 OpenAI 服务商默认1设为0关闭OPENAI_API_KEY为必填项OPENAI_PROXY_URL可选、用于覆盖默认 API 地址默认https://api.openai.com/v1。不同服务商的写法差异不大按自身服务商替换前缀即可# OpenAI — 精选列表 OPENAI_MODEL_LIST-all,gpt-4o,gpt-4o-mini # Google GOOGLE_MODEL_LISTgemini-2.5-proGemini 2.5 Pro1000000:vision:fc # Perplexity PERPLEXITY_MODEL_LIST-all,sonar-pro,sonar # Ollama本地模型 OLLAMA_PROXY_URLhttp://localhost:11434 OLLAMA_MODEL_LISTllama3:8bLlama 3 8B8192,mistral:latestMistral8192:fc,codellama:34bCode Llama 34B16000Azure OpenAI 是例外Azure 要求用-deploymentName把模型 ID 映射到你的实际部署名见 Azure OpenAI 部署文档其中AZURE_MODEL_LIST为必填项AZURE_ENDPOINThttps://your-resource.openai.azure.com AZURE_API_KEYyour-api-key AZURE_API_VERSION2024-02-01 # id-deploymentNamedisplayName能力 AZURE_MODEL_LISTgpt-35-turbo-my-gpt35-deployGPT-3.5 Turbo16000:fc,gpt-4-my-gpt4-deployGPT-4128000:fc:vision上面的 endpoint、API key 是文档示例值替换为你 Azure 账户中 Keys and Endpoints 部分提供的真实值。先起测试实例验证配置文档建议上生产前先起一个独立的测试实例验证模型配置该命令会启动一个名为lobehub-test的后台容器并映射 3210 端口测试容器名称需与环境中已有容器不冲突docker run -d -p 3210:3210 \ -e OPENAI_API_KEYsk-test... \ -e OPENAI_MODEL_LIST-all,gpt-4o \ --name lobehub-test lobehub/lobehub将sk-test...替换为你有权限的测试 API Key。验证点有两个打开 LobeHub 界面确认模型选择器中出现且仅出现你期望的模型展示名与...能力标注按预期呈现用新配置发一次真实对话请求确认能拿到非空回复。验证通过后再在正式部署环境的同一组环境变量上落配置。配置后常见问题模型未出现在选择器中检查语法错误逗号缺失、尖括号不匹配是最常见的写法问题确认服务商本身已启用如ENABLED_OPENAI1若使用了-all确认已用把该模型加回来。模型返回空响应走代理时尝试在 URL 末尾加/v1再试OPENAI_PROXY_URLhttps://api.example.com/v1是否要/v1与服务商的转发方式有关文档对 OpenAI 代理有专门说明确认模型 ID 与服务商 API 期望的完全一致确认 API Key 有权限访问该模型。扩展能力不生效检查maxToken是否写在 第一位确认服务商 API 实际支持该能力——LobeHub 无法开启 API 本身不提供的能力确认运行的 LobeHub 版本足够新扩展配置从0.147.8引入过旧版本需先升级再配置。完整的规则、更多服务商示例与排查条目见 docs/self-hosting/advanced/model-list.mdx 与 docs/self-hosting/environment-variables/model-provider.mdx。【免费下载链接】lobehub LobeHub is your Chief Agent Operator, organizing your agents into 7×24 operations by hiring, scheduling, and reporting on your entire AI team.项目地址: https://gitcode.com/GitHub_Trending/lo/lobehub创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 LobeHub 部署时怎么自定义服务商模型列表并标注模型扩展能力？
LobeHub 部署时怎么自定义服务商模型列表并标注模型扩展能力【免费下载链接】lobehub LobeHub is your Chief Agent Operator, organizing your agents into 7×24 operations by hiring, scheduling, and reporting on your entire AI team.项目地址: https://gitcode.com/GitHub_Trending/lo/lobehub自部署 LobeHub 时内置模型列表往往不符合运营需要可能想只放行几个指定模型想给模型起用户看得懂的展示名或者想声明某个模型支持 Function Calling、视觉识别等能力。这些都通过每个服务商对应的*_MODEL_LIST环境变量在部署时配置无需改代码。本文适用前提你正在通过 Docker 等方式自部署 LobeHub并已准备好对应服务商的 API Key扩展能力...尖括号语法从 LobeHub0.147.8版本开始支持低版本不生效。模型列表的语法规则所有服务商的模型列表变量共用同一套定义语法规则见 model-list 文档id-deploymentNamedisplayNamemaxToken:vision:reasoning:search:fc:file:imageOutput,model2,model3模型名把该模型加入列表-模型名把该模型从列表中隐藏-all先隐藏所有内置模型通常与组合实现只启用显式指定的模型展示名自定义界面中显示的模型名-deploymentName映射部署名可以省略省略时默认为最新版本的模型。当前支持-deploymentName的服务商有Azure、Azure AI、Qwen、Spark、Volcengine及其 coding plan以及 Kimi Coding Plan...扩展配置尖括号内第一个值必须是该模型的maxToken第二个值起是扩展能力能力之间用冒号:分隔顺序不重要。一个典型组合示例qwen-7b-chat,glm-6b,-gpt-3.5-turbo,gpt-4-turbogpt-4o含义是增加qwen-7b-chat和glm-6b删除gpt-3.5-turbo并把gpt-4-turbo的展示名改为gpt-4o。如果想只保留个别模型OPENAI_MODEL_LIST-all,gpt-3.5-turbo,gpt-4-turbogpt-4o仅启用gpt-3.5-turbo和gpt-4-turbo展示为gpt-4o其余模型全部隐藏。标注模型扩展能力尖括号里可以声明模型支持的能力目前支持的取值及含义如下能力描述fc函数调用Function Callingvision视觉识别imageOutput图像生成reasoning支持推理search支持联网搜索video视频理解file文件上传文档标注该方式较 hack不建议日常使用文档给出的标注示例chatglm-6bChatGLM 6B4096 spark-v3.5讯飞星火 v3.58192:fc gemini-2.5-flashGemini 2.5 Flash16000:vision o3-miniOpenAI o3-mini200000:reasoning:fc qwen-max-latestQwen Max32768:search:fc gpt-4-allChatGPT Plus128000:fc:vision:file gemini-2.0-flash-exp-image-generationGemini 2.0 Flash (Image Generation) Experimental32768:imageOutput:vision两条硬性规则需要记住maxToken必须是 内的第一个值写8192:fc:vision而不是fc:vision否则能力标注不生效能力标注只是声明LobeHub 无法开启服务商 API 本身不提供的能力需确认模型在其 API 中实际支持该能力。在各服务商的部署变量中配置模型列表挂在每个服务商自己的环境变量下完整变量说明见 模型服务商环境变量文档。以 OpenAI 为例OPENAI_MODEL_LIST为可选变量用于控制模型列表ENABLED_OPENAI控制是否启用 OpenAI 服务商默认1设为0关闭OPENAI_API_KEY为必填项OPENAI_PROXY_URL可选、用于覆盖默认 API 地址默认https://api.openai.com/v1。不同服务商的写法差异不大按自身服务商替换前缀即可# OpenAI — 精选列表 OPENAI_MODEL_LIST-all,gpt-4o,gpt-4o-mini # Google GOOGLE_MODEL_LISTgemini-2.5-proGemini 2.5 Pro1000000:vision:fc # Perplexity PERPLEXITY_MODEL_LIST-all,sonar-pro,sonar # Ollama本地模型 OLLAMA_PROXY_URLhttp://localhost:11434 OLLAMA_MODEL_LISTllama3:8bLlama 3 8B8192,mistral:latestMistral8192:fc,codellama:34bCode Llama 34B16000Azure OpenAI 是例外Azure 要求用-deploymentName把模型 ID 映射到你的实际部署名见 Azure OpenAI 部署文档其中AZURE_MODEL_LIST为必填项AZURE_ENDPOINThttps://your-resource.openai.azure.com AZURE_API_KEYyour-api-key AZURE_API_VERSION2024-02-01 # id-deploymentNamedisplayName能力 AZURE_MODEL_LISTgpt-35-turbo-my-gpt35-deployGPT-3.5 Turbo16000:fc,gpt-4-my-gpt4-deployGPT-4128000:fc:vision上面的 endpoint、API key 是文档示例值替换为你 Azure 账户中 Keys and Endpoints 部分提供的真实值。先起测试实例验证配置文档建议上生产前先起一个独立的测试实例验证模型配置该命令会启动一个名为lobehub-test的后台容器并映射 3210 端口测试容器名称需与环境中已有容器不冲突docker run -d -p 3210:3210 \ -e OPENAI_API_KEYsk-test... \ -e OPENAI_MODEL_LIST-all,gpt-4o \ --name lobehub-test lobehub/lobehub将sk-test...替换为你有权限的测试 API Key。验证点有两个打开 LobeHub 界面确认模型选择器中出现且仅出现你期望的模型展示名与...能力标注按预期呈现用新配置发一次真实对话请求确认能拿到非空回复。验证通过后再在正式部署环境的同一组环境变量上落配置。配置后常见问题模型未出现在选择器中检查语法错误逗号缺失、尖括号不匹配是最常见的写法问题确认服务商本身已启用如ENABLED_OPENAI1若使用了-all确认已用把该模型加回来。模型返回空响应走代理时尝试在 URL 末尾加/v1再试OPENAI_PROXY_URLhttps://api.example.com/v1是否要/v1与服务商的转发方式有关文档对 OpenAI 代理有专门说明确认模型 ID 与服务商 API 期望的完全一致确认 API Key 有权限访问该模型。扩展能力不生效检查maxToken是否写在 第一位确认服务商 API 实际支持该能力——LobeHub 无法开启 API 本身不提供的能力确认运行的 LobeHub 版本足够新扩展配置从0.147.8引入过旧版本需先升级再配置。完整的规则、更多服务商示例与排查条目见 docs/self-hosting/advanced/model-list.mdx 与 docs/self-hosting/environment-variables/model-provider.mdx。【免费下载链接】lobehub LobeHub is your Chief Agent Operator, organizing your agents into 7×24 operations by hiring, scheduling, and reporting on your entire AI team.项目地址: https://gitcode.com/GitHub_Trending/lo/lobehub创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考