ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

大模型技术之-Coze的Windows平台部署

大模型技术之-Coze的Windows平台部署 1、整体概述1.1 Coze的开源字节跳动于2025年7月26日开源其AI智能体开发平台Coze中文名“扣子”短短48小时内GitHub星标数突破9000。最大亮点在于其极致亲民的硬件要求——普通家用电脑2核CPU4GB内存即可流畅运行。为什么Coze开源是劲爆新闻之前我们在Coze上搭建的智能体只能交付给C端用户如果交付给B端用户通常都是用Dify、n8n等平台上搭建智能体交付因为企业用户要求数据绝对安全放在公网上是不能接受的而Dify恰好是可以私有化部署的。现在Coze也开源了意味着以后更多了一种选择这绝对可以说是一个里程碑式的进步。为什么选择开源Coze零成本商用采用Apache 2.0协议意味着你可以自由地用于商业用途并进行二次开发全链路开源覆盖Agent开发Studio、测试/运维Loop、部署SDK硬件平民化告别动辄16G显存的GPU普通笔记本即可运行AI工作流1.2 两大核心组件两大核心组件Coze Studio和Coze Loop。可视化开发工具Coze Studio提供各类最新大模型和工具、多种开发模式和框架从开发到部署为你提供最便捷的 AI Agent 开发环境。github地址https://github.com/coze-dev/coze-studio运维管理工具Coze Loop用于AI Agent运维和生命周期管理的平台。github地址https://github.com/coze-dev/coze-loop1.3 Coze本地化部署流程Coze的本地化部署主要依赖Docker其核心流程可以概括为以下四个阶段。阶段核心任务关键操作/说明1. 环境准备确保系统满足条件并安装必要软件确认电脑配置建议双核CPU4G内存以上安装Docker和Git。2. 获取代码下载Coze Studio开源代码到本地通过git clone命令或直接从GitHub下载ZIP压缩包的方式获取源码。3. 配置模型配置Coze将要使用的大语言模型这是关键一步主要有两种选择云端API模型如火山方舟或本地模型如通过Ollama部署。4. 启动服务使用Docker编译并运行所有服务在项目目录下执行Docker命令完成后通过浏览器访问http://localhost:8888即可。2、Coze Studio的安装和配置2.1 安装Docker(环境准备)Docker是唯一前置依赖用于创建隔离运行环境① 下载安装包Docker官网下载地址https://www.docker.com/products/docker-desktop/国内用户若下载慢可使用飞书镜像包https://ay6exk7fyt.feishu.cn/drive/folder/IccNf2B4JlJOIvd2kWfcpYnRn4l② 安装设置及启动安装完成后打开Docker Desktop确认状态栏显示“Running”✅个别首次安装的小伙伴会被windows系统提示需要安装适用于Linux的Windows子系统。这里选择确认安装。稍等片刻后会完成安装。③ 配置镜像加速器或docker代理在安装Coze之前我们要先进行Docker中镜像网站的设置因为默认的镜像是国外的网址访问不到或比较慢。需要设置镜像加速器或docker代理。说明如果大家设置过代理那么推荐方式2。如果没有则使用方式1。方式1配置镜像加速器registry-mirrors:[https://registry.docker-cn.com,https://s4uv0fem.mirror.aliyuncs.com,https://docker.1ms.run,https://registry.dockermirror.com,https://docker.m.daocloud.io,https://docker.kubesre.xyz,https://docker.mirrors.ustc.edu.cn,https://docker.1panel.live,https://docker.kejilion.pro,https://dockercf.jsdelivr.fyi,https://docker.jsdelivr.fyi,https://dockertest.jsdelivr.fyi,https://hub.littlediary.cn,https://proxy.1panel.live,https://docker.1panelproxy.com,https://image.cloudlayer.icu,https://docker.1panel.top,https://docker.anye.in,https://docker-0.unsee.tech,https://hub.rat.dev,https://hub3.nat.tf,https://docker.1ms.run,https://func.ink,https://a.ussh.net,https://docker.hlmirror.com,https://lispy.org,https://docker.yomansunter.com,https://docker.xuanyuan.me,https://docker.mybacc.com,https://dytt.online,https://docker.xiaogenban1993.com,https://dockerpull.cn,https://docker.zhai.cm,https://dockerhub.websoft9.com,https://dockerpull.pw,https://docker-mirror.aigc2d.com,https://docker.sunzishaokao.com,https://docker.melikeme.cn]方式2配置docker代理7890更改为本地监听的代理窗口。到这里Docker已经安装配置好了。2.2 安装Coze Studio① 下载Coze安装包方式1Github/Gitee打开Docker Desktop内置终端右下角Terminal图标执行以下命令# 克隆官方仓库代码gitclone https://github.com/coze-dev/coze-studio.git**注意**由于github下载较慢大家可以将github上coze-studio镜像下载到gitee平台然后从gitee平台下载。1在gitee平台上2复制Github上的coze-studio地址粘贴到3下载完成以后复制gitee上的地址大家可以直接粘贴如下地址git clone https://gitee.com/shkstart/coze-studio.git粘贴到docker desktop客户端说明git是一个从代码仓库拉取代码的工具大家通过以下网址下载安装一下即可。安装非常简单安装以后就可以使用git命令了。如果你没有安装git请先安装githttps://git-scm.com/downloads方式2解压zip包如果你不想安装git你也可以直接下载github上coze的zip包如下图https://github.com/coze-dev/coze-studio下载后解压到指令目录即可。② 安装并配置模型首次部署并启动 Coze Studio 开源版本之前需要在 Coze Studio 项目中配置模型服务。否则在创建Agent或工作流时将无法正确选择模型。1、从模板目录复制doubao-seed-1.6模型的模板文件并粘贴到配置文件目录中。首先进入根目录coze-studio下在地址栏中输入“cmd”并按回车键。执行命令copy backend\conf\model\template\model_template_ark_doubao-seed-1.6.yaml backend\conf\model\ark_doubao-seed-1.6.yaml2、修改配置文件目录中的模板文件填入对应的参数idCoze Studio 中的模型 ID由开发者自主定义必须为非零整数全局唯一。模型上线后请勿修改模型 ID。meta.conn_config.api_key在线模型服务的 API Key获取方式见下方获取Key和Model接入点的api_key。meta.conn_config.model在线模型服务的模型 ID。本例中为 Volcengine Ark doubao-seed-1.6 模型接入点的 Endpoint ID获取方式见下方获取Key和Model接入点的model。配置方案说明模型配置是部署的核心主要有以下两种方案根据自己的需求如网络条件、数据敏感性、成本进行选择。配置方式优点缺点适用场景云端API模型 (如火山方舟)模型能力强响应速度快无需消耗本地计算资源。需要API Key可能产生费用需要联网数据需传输到厂商云端。体验Coze全部功能需要最先进的模型能力开发测试环境。纯本地模型 (通过Ollama)数据完全私密离线可用API调用免费。本地硬件要求较高尤其需要较好GPU模型性能可能不及顶级云端模型。对数据安全有严格要求内网环境希望完全掌控模型的场景。方案1配置云端API模型以火山方舟为例1、创建 API Key进入火山引擎官网 https://www.volcengine.com 打开【控制台】。搜索并进入【火山方舟】点击【API Key 管理】下的【创建 API Key】选择【创建】点击小眼睛即可查看 API Key 复制备用。2、创建Endpoint进入【在线推理】页面选择【自定义推理接入点】点击【创建推理接入点】输入接入点名称建议以模型命名点击【添加模型】模型目前支持豆包、DeepSeek、Kimi、Qwen这里以豆包 1.6 为例选择后确定。或勾选协议点击【开通模型并接入】。补充如果是模型首次开通需要实名认证输入个人信息手机刷脸验证。复制Endpoint。注意模型名称下方的 ID 就是Endpoint。3、配置 Coze 文件找到前面的文件ark_doubao-seed-1.6.yaml进行编辑id 修改为任意 5 位以上纯数字。将前面创建的【API Key】和【Endpoint】填入下图位置内保存并关闭文件。方案2配置纯本地模型通过Ollama这种方法可以实现完全离线的私有化部署。1、安装Ollama首先在本地安装Ollama它是一个用于在本地运行大模型的工具。2、拉取模型通过Ollama拉取你想要的模型例如在命令行中执行ollama pull qwen2.5:7b来下载一个开源模型。3、配置Coze在Coze项目目录下找到Ollama的配置文件模板model_template_ollama.yaml将其复制并重命名为model_ollama.yaml保存到 backend/conf/model/ 目录下修改其中的 base_url为Ollama的服务地址通常是http://host.docker.internal:11434并指定你拉取的 model 名称。③ 安装并启动Coze下图中有一个名叫docker的目录我们要进入到这个项目文件夹中进行安装。在coze-studio\docker当前目录下测试如下1、输入docker点击回车键后返回下图这样的结果表明安装是成功的没有任何问题。2、环境变量配置执行如下命令重命名环境配置文件copy .env.example .env#或执行cp .env.example .env3、在Docker里启动Coze首次启动可能需要5-10分钟依赖网络速度运行一下这条命令dockercompose--profile*up-d这个命令的含义是docker compose使用Docker Compose运行服务--profile *启用所有profile配置up启动服务没有就创建容器有就重启-ddetached模式即在后台运行出现下图表示成功4、安装结束后查看运行状态dockercomposeps打开安装好的docker客户端正常就可以看到docker启动起来了。④ 访问Coze Studio界面安装好后我们打开浏览器访问http://localhost:8888/来打开 Coze Studio 可以看到如下界面。登录进去即可正常使用了正常就可以看到docker启动起来了。小遗憾目前功能较商业版还比较简陋但未来可期
返回列表