Fine-Tuning Open-Source LLMs (LLaMA, Mistral, Qwen, etc.) 培训
微调开源LLMs是组织在安全、节省成本且私密的环境中定制AI能力的新兴最佳实践。
这门由讲师指导的培训(线上或线下)面向中级ML从业者和AI开发者,他们希望微调并部署像LLaMA、Mistral和Qwen这样的开源模型,以满足特定业务或内部应用的需求。
在培训结束时,参与者将能够:
- 理解开源LLMs的生态系统及其差异。
- 为LLaMA、Mistral和Qwen等模型准备数据集和微调配置。
- 使用Hugging Face Transformers和PEFT执行微调流程。
- 在安全环境中评估、保存并部署微调后的模型。
课程形式
- 互动式讲座与讨论。
- 大量练习与实践。
- 在实时实验室环境中进行动手操作。
课程定制选项
- 如需为本课程定制培训,请联系我们安排。
课程大纲
开源LLMs简介
- 什么是开放权重模型及其重要性
- LLaMA、Mistral、Qwen及其他社群模型概述
- 私有、本地或安全部署的应用案例
环境设置与工具
- 安装与配置Transformers、Datasets及PEFT函式库
- 选择适合的硬体进行微调
- 从Hugging Face或其他储存库载入预训练模型
数据准备与预处理
- 数据集格式(指令微调、聊天数据、纯文本)
- 分词与序列管理
- 创建自定义数据集与数据加载器
Fine-Tuning技术
- 标准全微调与参数高效方法对比
- 应用LoRA与QLoRA进行高效微调
- 使用Trainer API进行快速实验
模型评估与优化
- 使用生成与准确度指标评估微调模型
- 管理过拟合、泛化与验证集
- 性能调优技巧与日志记录
部署与私有使用
- 保存与载入模型进行推理
- 在安全企业环境中部署微调模型
- 本地与云端部署策略
案例研究与Use Case
- 企业使用LLaMA、Mistral及Qwen的范例
- 处理多语言与特定领域的微调
- 讨论:开放与封闭模型的权衡
总结与下一步
要求
- 了解大型语言模型(LLMs)及其架构
- 具备Python和PyTorch的经验
- 对Hugging Face生态系统有基本了解
目标受众
- 机器学习从业者
- 人工智慧开发者
需要帮助选择合适的课程吗?
Fine-Tuning Open-Source LLMs (LLaMA, Mistral, Qwen, etc.) 培训 - Enquiry
Fine-Tuning Open-Source LLMs (LLaMA, Mistral, Qwen, etc.) - 问询
问询
即将举行的公开课程
相关课程
Building Private AI Workflows with Ollama
14 小时这是由讲师指导的现场培训课程,适合在中国(线上或现场)参加的高阶专业人士,旨在使用Ollama实现安全且高效的人工智慧驱动工作流程。
在培训结束时,参与者将能够:
- 部署并配置Ollama以进行私有AI处理。
- 将AI模型整合到安全的企业工作流程中。
- 在保持数据隐私的同时优化AI性能。
- 利用本地AI功能自动化业务流程。
- 确保符合企业安全与治理政策。
Claude AI for Content Creation
14 小时这门由教师主导的现场培训课程面向初学者到中级内容创作者、编辑和营销人员,旨在教他们利用 Claude AI 进行内容生成、编辑和总结,以增强博客、报告和营销材料。
培训结束时,参与者将能够:
- 使用 Claude AI 进行内容头脑风暴和想法扩展。
- 通过 AI 助理编辑和校对来增强写作。
- 为长格式内容和报告生成总结。
- 为不同平台自动化营销副本创建。
Claude AI for Developers: Building AI-Powered Applications
14 小时这个面向希望将Claude AI集成到他们的应用程序中、构建AI驱动的聊天机器人以及通过AI驱动的自动化来增强软件功能的中级软件开发人员和AI工程师的中国(在线或现场) Instructor-led, live training (online or onsite)。
在这次培训结束时,参与者将能够:
- 使用Claude AI API将AI集成到应用程序中。
- 开发AI驱动的聊天机器人和虚拟助手。
- 利用AI驱动的自动化和NLP增强应用程序。
- 对不同的用例优化和微调Claude AI模型。
Claude AI for Research and Knowledge Management
14 小时这项在中国(线上或现场)进行的由讲师主导的现场培训,旨在帮助中级研究人员、分析师和知识工作者利用Claude AI处理大量数据、综合信息和自动化研究任务。
培训结束时,参与者将能够:
- 利用Claude AI进行文献回顾和研究综合。
- 总结报告、研究论文和长格式文档。
- 从结构化和非结构化数据中提取关键洞察和趋势。
- 将Claude AI集成到研究和知识管理工作流程中。
Claude AI for Workflow Automation and Productivity
14 小时这门由讲师主导的现场培训在中国(在线或现场)旨在帮助有志于将Claude AI整合到日常工作流程中以提高效率和自动化的初级专业人员。
培训结束时,参加者将能够:
- 利用Claude AI来自动化重复性任务和精简工作流程。
- 利用人工智慧驱动的自动化技术提高个人和团队的生产力。
- 将Claude AI与现有的商业工具和平台整合。
- 优化AI驱动的决策制定和任务管理。
Deploying and Optimizing LLMs with Ollama
14 小时这是一场由讲师指导的现场培训,地点在中国(线上或现场),适合希望使用Ollama部署、优化和整合LLM的中级专业人士。
在培训结束时,参与者将能够:
- 使用Ollama设置和部署LLM。
- 优化AI模型以提升性能和效率。
- 利用GPU加速提升推理速度。
- 将Ollama整合到工作流程和应用程式中。
- 监控和维护AI模型的长期性能。
Fine-Tuning and Customizing AI Models on Ollama
14 小时这是一个由讲师指导的现场培训课程,可在中国(线上或现场)进行,旨在为高级专业人士提供微调和自订Ollama上的AI模型的能力,以提升性能和针对特定领域的应用。
在培训结束时,参与者将能够:
- 在Ollama上设置高效的AI模型微调环境。
- 为监督式微调和强化学习准备数据集。
- 优化AI模型以提升性能、准确性和效率。
- 在生产环境中部署自订模型。
- 评估模型改进并确保其稳健性。
Introduction to Google Gemini AI
14 小时这种以讲师为主导的中国(在线或现场)实时培训面向希望使用 Google Gemini AI 将 AI 功能集成到其应用程序中的初级到中级开发人员。
在培训结束时,参与者将能够:
- 了解大型语言模型的基础知识。
- 设置和使用 Google Gemini AI 执行各种 AI 任务。
- 实现文本到文本和图像到文本的转换。
- 构建基本的 AI 驱动型应用程序。
- 探索 Google Gemini AI 中的高级功能和自定义选项。
Google Gemini AI for Content Creation
14 小时这种以讲师为主导的中国(在线或现场)现场培训面向希望利用 Google Gemini AI 来提高其内容质量和效率的中级内容创作者。
在培训结束时,参与者将能够:
- 了解 AI 在内容创作中的作用。
- 设置和使用 Google Gemini AI 来生成和优化内容。
- 应用文本到文本的转换来生成创意和原创内容。
- 使用 AI 驱动的见解实施 SEO 策略。
- 使用 Gemini AI 分析内容性能并调整策略。
Google Gemini AI for Transformative Customer Service
14 小时这种以讲师为主导的中国(在线或现场)现场培训面向希望在客户服务运营中实施 Go ogle Gemini AI 的中级客户服务专业人员。
在培训结束时,参与者将能够:
- 了解 AI 对客户服务的影响。
- 设置 Google Gemini AI 以自动化和个性化客户交互。
- 利用文本到文本和图像到文本的转换来提高服务效率。
- 制定 AI 驱动的策略,用于实时客户反馈分析。
- 探索高级功能,打造无缝的客户服务体验。
Google Gemini AI for Data Analysis
21 小时这种以讲师为主导的中国(在线或现场)现场培训面向希望使用 Google Gemini AI 在各个行业更直观地执行复杂数据分析任务的初级到中级数据分析师和业务专业人员。
在培训结束时,参与者将能够:
- 了解 Google Gemini AI 的基础知识。
- 将各种数据源连接到 Gemini AI。
- 使用自然语言查询浏览数据。
- 分析数据模式并得出见解。
- 创建引人入胜的数据可视化。
- 有效地传达数据驱动的见解。
Intermediate Gemini AI for Public Sector Professionals
16 小时这是由讲师指导的中国(线上或线下)培训,针对中级水平的公共部门专业人士,旨在通过更先进的AI互动,使用Gemini生成高质量内容、协助研究并提高生产力。
在培训结束时,参与者将能够:
- 为特定用例制作更有效和量身定制的提示。
- 使用Gemini生成原创和创意的内容。
- 精确地总结和比较复杂的信息。
- 使用Gemini进行头脑风暴、计划和高效组织想法。
Introduction to Claude AI: Conversational AI and Business Applications
14 小时这项由讲师主持的现场培训(在线或现场)旨在帮助希望了解Claude AI的基本原理并利用它进行商业应用的初级商业专业人士、客户支持团队和技术爱好者。
培训结束时,参与者将能够:
- 了解Claude AI的能力和用例。
- 有效地设置和与Claude AI互动。
- 利用对话式AI自动化业务工作流程。
- 利用AI驱动的解决方案提升客户互动和支持。
LangChain: Building AI-Powered Applications
14 小时这种由讲师指导的中国(在线或现场)现场培训面向希望使用LangChain框架构建AI驱动的应用程序的中级开发人员和软件工程师。
在培训结束时,参与者将能够:
- 了解LangChain及其组件的基础知识。
- 将 LangChain 与 GPT-4 等大型语言模型 (LLM) 集成。
- 使用 LangChain 构建模块化 AI 应用程序。
- 排查LangChain应用程序中的常见问题。
Getting Started with Ollama: Running Local AI Models
7 小时这是一个由讲师指导的现场培训课程,可在中国(线上或现场)进行,适合初级专业人士学习如何在本地机器上安装、配置和使用 Ollama 来运行 AI 模型。
在本课程结束时,学员将能够:
- 了解 Ollama 的基本概念及其功能。
- 设置 Ollama 以运行本地 AI 模型。
- 使用 Ollama 部署并与 LLM 进行互动。
- 优化 AI 工作负载的性能和资源使用。
- 探索本地 AI 部署在各行业中的应用案例。