5分钟快速上手：CMLM-ZhongJing中医大语言模型完整使用指南

5分钟快速上手CMLM-ZhongJing中医大语言模型完整使用指南【免费下载链接】CMLM-ZhongJing首个中医大语言模型——“仲景”。受古代中医学巨匠张仲景深邃智慧启迪专为传统中医领域打造的预训练大语言模型。 The first-ever Traditional Chinese Medicine large language model - CMLM-ZhongJing. Inspired by the profound wisdom of the ancient Chinese medical master Zhang Zhongjing, it is a pre-trained large language model designed specifically for the field of Traditional Chinese Medicine.项目地址: https://gitcode.com/gh_mirrors/cm/CMLM-ZhongJingCMLM-ZhongJing仲景是首个专门为传统中医领域打造的预训练大语言模型受古代中医学巨匠张仲景的深邃智慧启发旨在将中医博大精深的知识体系与现代AI技术相结合为医学研究和临床辅助提供专业工具。本指南面向技术新手和普通用户提供从零开始快速体验这一专业中医AI模型的完整流程。第一步环境准备与项目部署项目获取与基础配置首先需要获取项目代码并设置基础环境。CMLM-ZhongJing基于Python开发支持多种部署方式从最简单的网页演示到本地完整运行都能满足不同需求。关键操作点克隆项目仓库使用Git命令获取最新代码git clone https://gitcode.com/gh_mirrors/cm/CMLM-ZhongJing.git cd CMLM-ZhongJing安装依赖包项目提供了完整的依赖列表pip install -r requirements.txt模型下载准备项目支持两种不同规模的模型可根据硬件配置选择ZhongjingGPT1_13B13B参数版本需要高性能GPUZhongJing-2-1_8b1.8B轻量版单张Tesla T4即可运行实用小贴士如果本地GPU资源有限推荐使用1.8B轻量版模型运行要求较低且响应速度快。第二步快速启动网页演示界面一键启动交互式Web界面CMLM-ZhongJing提供了基于Gradio的网页演示界面无需编写任何代码即可体验中医AI的强大功能。操作指南启动Web Demo在项目目录中运行python WebDemo.py访问本地服务启动成功后在浏览器中打开http://localhost:7860/界面功能说明单轮对话模式适合简单的症状咨询和方剂查询多轮对话模式支持复杂的诊疗对话和病情分析历史记录自动保存对话历史便于回溯界面特点演示界面设计简洁直观左侧为输入区域右侧实时显示模型回答支持中英文输入响应速度快。上图展示了CMLM-ZhongJing采用的多任务诊疗行为分解策略该策略借鉴人类记忆与学习机制通过15种诊疗场景任务构建高质量指令数据确保模型在中医专业领域的准确性。第三步核心功能深度体验中医专业问答实践CMLM-ZhongJing在中医领域具备专业的知识库和推理能力用户可以通过以下方式深度体验其核心功能中医症状咨询示例简单症状头痛发热怎么办复杂症状心痛彻背背痛彻心怎么治疗请你对此症状给出中医处方。舌脉象分析舌红苔薄黄脉细数这是什么证候诊疗决策推理测试模型在复杂诊疗场景中表现出色能够结合病史、症状、舌脉象进行综合辨证分析。处方生成能力基于专业中医知识库模型能够生成符合中医理论的中药方剂包括药物组成、剂量和煎服方法。模型效果对比验证CMLM-ZhongJing在专业医师评估中展现出卓越表现。以下是与其他主流模型在中医诊疗任务中的对比结果评估结果显示CMLM-ZhongJing在参数规模相对较小的情况下在客观性、逻辑性、专业性、准确性和完整性等多个维度上均表现优异部分场景下甚至超越GPT-4等大型模型。第四步代码调用与集成开发本地API调用方法对于开发者用户可以直接在Python项目中集成CMLM-ZhongJing模型基础调用示例from transformers import AutoModelForCausalLM, AutoTokenizer import torch # 初始化模型和分词器 peft_model_id CMLL/ZhongJing-2-1_8b base_model_id Qwen/Qwen1.5-1.8B-Chat model AutoModelForCausalLM.from_pretrained(base_model_id, device_mapauto) model.load_adapter(peft_model_id) tokenizer AutoTokenizer.from_pretrained( CMLL/ZhongJing-2-1_8b, padding_sideright, trust_remote_codeTrue, pad_token ) # 构建查询指令 instruction 我对三元汤的全过程很好奇能否从简介、病历、症状、诊断和治疗以及结果讨论等方面给我详细介绍 # 准备输入 messages [ {role: system, content: You are a helpful TCM medical assistant.}, {role: user, content: fQuestion: {instruction}} ] # 生成回答 inputs tokenizer.apply_chat_template(messages, tokenizeFalse, add_generation_promptTrue) model_inputs tokenizer([inputs], return_tensorspt).to(cuda) generated_ids model.generate(model_inputs.input_ids, max_new_tokens512) response tokenizer.decode(generated_ids[0], skip_special_tokensTrue) print(response)进阶配置选项设备选择支持CPU、CUDA、MPS等多种计算设备生成参数可调整max_new_tokens、temperature等参数控制输出批量处理支持批量输入提高处理效率实用小贴士参考项目中的src/zhongjinggpt_1_b.py文件了解更多高级用法和配置选项。第五步高级应用与定制开发数据构建与模型微调CMLM-ZhongJing的核心优势在于其专业的指令数据构建方法开发者可以基于此方法扩展模型能力专业指令数据特点多任务诊疗分解涵盖15种诊疗场景任务中医常识指令包含8万条多维度的中医专业知识高质量数据源基于中医古籍、方药、证候等专业资料模型微调建议数据准备按照项目的数据格式准备中医专业数据微调配置参考LoRA微调方法进行参数调整效果验证使用专业医师评估标准验证模型效果部署优化与性能调优部署环境建议硬件要求1.8B版本建议8GB以上显存13B版本建议24GB以上显存软件环境Python 3.8PyTorch 2.0Transformers 4.30网络要求首次运行需要下载模型权重建议稳定网络环境性能优化技巧量化压缩使用4-bit或8-bit量化减少内存占用缓存优化启用KV缓存提高推理速度批量推理合理设置batch_size平衡内存和速度总结与后续学习路径CMLM-ZhongJing为中医AI领域提供了强大的工具支持通过本指南的五个步骤用户可以快速上手并深度体验这一专业模型。从简单的网页演示到复杂的代码集成项目提供了完整的解决方案。后续学习建议深入研究项目文档详细阅读项目README文件了解技术细节探索源码结构分析src/目录下的核心代码实现参与社区讨论关注项目更新和技术交流实践应用开发尝试将模型集成到实际中医辅助系统中重要提示本模型所有输出结果仅供学术研究参考不构成任何医疗建议。临床诊断和治疗应由经验丰富的专业医师提供。模型尚处于实验室测试阶段不具备高度可信的临床诊疗能力。通过本指南的学习您已经掌握了CMLM-ZhongJing中医大语言模型的核心使用方法无论是作为研究工具还是技术验证都能为中医与现代AI技术的结合提供有力支持。【免费下载链接】CMLM-ZhongJing首个中医大语言模型——“仲景”。受古代中医学巨匠张仲景深邃智慧启迪专为传统中医领域打造的预训练大语言模型。 The first-ever Traditional Chinese Medicine large language model - CMLM-ZhongJing. Inspired by the profound wisdom of the ancient Chinese medical master Zhang Zhongjing, it is a pre-trained large language model designed specifically for the field of Traditional Chinese Medicine.项目地址: https://gitcode.com/gh_mirrors/cm/CMLM-ZhongJing创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考