第一天：大模型开发基础与框架

1. 大模型简介与技术发展

· 1.1 什么是大模型？（语言模型、视觉模型、跨模态等）

· 1.2 Transformer架构原理与演进

· 1.3 代表性大模型（GPT、T5、BERT、LLaMA等）对比

2. 大模型开发流程概览

· 2.1 模型预训练、微调与推理

· 2.2 数据集准备与清洗

· 2.3 基础硬件与软件环境（GPU/TPU，PyTorch、Transformers等）

3. 主流开发框架介绍

· 3.1 Hugging Face Transformers库使用

· 3.2 DeepSpeed、Colossal-AI等分布式训练框架简介

· 3.3 开源模型下载、加载与简单测试（Demo）

4. 实践一：本地化大模型加载与推理

· 4.1 模型选择与环境搭建（Colab、本地服务器等）

· 4.2 基础推理流程与API调用

· 4.3 简单Prompt工程与输出调优

5. 模型训练与微调基础

· 5.1 预训练与微调区别

· 5.2 常见微调方法（全参微调、LoRA等）

· 5.3 微调准备：标注数据集与高效数据格式

 

---

 

第二天：模型微调实战、部署与前瞻

6. 微调实战与性能优化

· 6.1 微调实操（以文本分类/指令微调为例）

· 6.2 参数设置与超参数优化技巧

· 6.3 微调过程常见问题与排查

7. 大模型高效推理与部署

· 7.1 推理加速方法（量化、蒸馏等）

· 7.2 推理服务框架（Transformers Serving、FastAPI部署）

· 7.3 本地化部署与远程API服务开发

8. 大模型应用集成开发

· 8.1 打通数据流：前后端与模型服务接口对接

· 8.2 典型应用开发（问答系统、信息抽取等）

· 8.3 Prompt工程进阶与高效实践

9. 安全、合规与伦理思考

· 9.1 模型内容安全过滤策略

· 9.2 训练数据合规、模型责任与道德风险

· 9.3 企业和学术常见合规方案简介

10. 团队项目练习与结课交流

· 10.1 小组实践开发指定大模型应用

· 10.2 项目展示、问题答疑与优化建议

· 10.3 课程总结与学习资源推荐

如果您想学习本课程，请预约报名
如果没找到合适的课程或有特殊培训需求，请订制培训
除培训外，同时提供相关技术咨询与技术支持服务，有需求请发需求表到邮箱soft@info-soft.cn,或致电4007991916
技术服务需求表下载请点击

服务优势：
丰富专家资源，精准匹配相关行业，相关项目技术精英，面向用户实际需求，针对性培训或咨询，互动式交流，案例教学，精品小班，实际工程项目经验分享，快捷高效，节省时间与金钱，少走弯路与错路。

专家力量：
中国科学院相关研究所高级研究人员
西门子，TI,vmware，MSC,Ansys，MDI，Mentor, candence,Altium,Atmel 、Freescale,达索，华为等
大型公司高级工程师，项目经理，技术支持专家
中科信软培训中心，资深专家或讲师
大多名牌大学，硕士以上学历，相关学历背景专业，理论素养高
多年实际项目实践，大型复杂项目实战案例分享，热情，乐于技术分享
针对客户实际需要，真实案例演示，互动式沟通，学有所值

 点击进入报名表

咨询电话：010-62883247

                4007991916

咨询邮箱：soft@info-soft.cn  

 

微信咨询 随时听讲课 聚焦技术实践