Fine-Tuning 使用QLoRA的大型语言模型 培训
QLoRA 是一种先进的技术,通过利用量化方法来微调大型语言模型(LLMs),提供了一种更高效的方式来微调这些模型,而无需承担巨大的计算成本。本次培训将涵盖使用 QLoRA 微调 LLMs 的理论基础和实际应用。
这是一个由讲师主导的培训(线上或线下),针对中高级别的机器学习工程师、AI 开发者和数据科学家,他们希望学习如何使用 QLoRA 来高效地微调大型模型,以适应特定任务和自定义需求。
在培训结束时,参与者将能够:
- 理解 QLoRA 和量化技术在 LLMs 中的理论基础。
- 在微调大型语言模型时,实现 QLoRA 以应用于特定领域。
- 在有限的计算资源下,使用量化技术优化微调性能。
- 高效地部署和评估微调后的模型,应用于实际场景。
课程形式
- 互动式讲座和讨论。
- 大量的练习和实践。
- 在即时实验室环境中进行动手操作。
课程定制选项
- 如需为此课程定制培训,请联系我们安排。
课程大纲
QLoRA与量化简介
- 量化概述及其在模型优化中的作用
- QLoRA框架介绍及其优势
- QLoRA与传统微调方法的关键差异
Large Language Models (LLMs)基础知识
- LLM简介及其架构
- 大规模微调大型模型的挑战
- 量化如何帮助克服LLM微调中的计算限制
为Fine-Tuning LLM实施QLoRA
- 设置QLoRA框架和环境
- 准备用于QLoRA微调的数据集
- 使用Python和PyTorch/TensorFlow在LLM上实施QLoRA的逐步指南
使用QLoRA优化Fine-Tuning性能
- 如何平衡模型准确性和量化性能
- 在微调期间减少计算成本和内存使用的技术
- 使用最低硬件需求进行微调的策略
评估微调模型
- 如何评估微调模型的有效性
- 语言模型的常见评估指标
- 微调后优化模型性能并解决问题
部署和扩展微调模型
- 将量化LLM部署到生产环境的最佳实践
- 扩展部署以处理实时请求
- 用于模型部署和监控的工具和框架
实际Use Case和案例研究
- 案例研究:为客户支持和NLP任务微调LLM
- 在医疗、金融和电子商务等行业中微调LLM的示例
- 从实际部署QLoRA模型中学到的经验教训
总结与下一步
要求
- 了解机器学习基础知识和神经网路
- 具备模型微调和迁移学习的经验
- 熟悉大型语言模型(LLMs)和深度学习框架(例如PyTorch, TensorFlow)
目标受众
- 机器学习工程师
- AI开发人员
- 数据科学家
需要帮助选择合适的课程吗?
Fine-Tuning 使用QLoRA的大型语言模型 培训 - Enquiry
Fine-Tuning 使用QLoRA的大型语言模型 - 问询
问询
即将举行的公开课程
相关课程
高级LangGraph:复杂图的优化、调试与监控
35 小时LangGraph 是一个用于构建有状态、多参与者 LLM 应用的框架,它支持将应用构建为具有持久状态和执行控制的可组合图。
本次由讲师主导的培训(线上或线下)面向高级 AI 平台工程师、AI DevOps 和 ML 架构师,旨在帮助他们优化、调试、监控和操作生产级 LangGraph 系统。
通过本培训,参与者将能够:
- 设计和优化复杂的 LangGraph 拓扑结构,以提高速度、降低成本并增强可扩展性。
- 通过重试、超时、幂等性和基于检查点的恢复机制来构建可靠性。
- 调试和追踪图执行过程,检查状态,并系统地复现生产问题。
- 为图添加日志、指标和追踪,部署到生产环境,并监控 SLA 和成本。
课程形式
- 互动式讲座和讨论。
- 大量练习和实践。
- 在实时实验室环境中进行实际操作。
课程定制选项
- 如需定制本课程,请联系我们安排。
使用 Devstral 构建编码代理:从代理设计到工具化
14 小时Devstral 是一个开源框架,旨在构建和运行编码代理,这些代理可以与代码库、开发者工具和 API 交互,以提升工程效率。
本课程由讲师指导,采用线上或线下培训形式,面向中高级 ML 工程师、开发者工具团队以及 SRE,帮助他们使用 Devstral 设计、实现和优化编码代理。
通过本课程,学员将能够:
- 设置和配置 Devstral 以进行编码代理开发。
- 设计用于代码库探索和修改的代理工作流。
- 将编码代理与开发者工具和 API 集成。
- 实施安全和高效代理部署的最佳实践。
课程形式
- 互动式讲座和讨论。
- 大量练习和实践。
- 在实时实验室环境中进行动手操作。
课程定制选项
- 如需为本课程定制培训,请联系我们安排。
Open-Source Model Ops: Self-Hosting, Fine-Tuning and Governance with Devstral & Mistral Models
14 小时Devstral and Mistral models are open-source AI technologies designed for flexible deployment, fine-tuning, and scalable integration.
This instructor-led, live training (online or onsite) is aimed at intermediate–level to advanced–level ML engineers, platform teams, and research engineers who wish to self-host, fine-tune, and govern Mistral and Devstral models in production environments.
By the end of this training, participants will be able to:
- Set up and configure self-hosted environments for Mistral and Devstral models.
- Apply fine-tuning techniques for domain-specific performance.
- Implement versioning, monitoring, and lifecycle governance.
- Ensure security, compliance, and responsible usage of open-source models.
Format of the Course
- Interactive lecture and discussion.
- Hands-on exercises in self-hosting and fine-tuning.
- Live-lab implementation of governance and monitoring pipelines.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
LangGraph在金融领域的应用
35 小时LangGraph 是一个用于构建有状态、多参与者 LLM 应用的框架,通过可组合的图结构实现持久状态和执行控制。
本次由讲师主导的培训(线上或线下)面向中级到高级专业人士,旨在帮助他们设计、实施和运营基于 LangGraph 的金融解决方案,确保其具备适当的治理、可观测性和合规性。
通过本次培训,参与者将能够:
- 设计与监管和审计要求一致的金融专用 LangGraph 工作流。
- 将金融数据标准和本体集成到图状态和工具中。
- 为关键流程实施可靠性、安全性和人工介入控制。
- 部署、监控和优化 LangGraph 系统,以满足性能、成本和 SLA 要求。
课程形式
- 互动式讲座与讨论。
- 大量练习与实践。
- 在实时实验室环境中进行实际操作。
课程定制选项
- 如需定制本课程,请联系我们安排。
LangGraph基础:基于图的LLM提示与链式编程
14 小时LangGraph 是一个用于构建图结构 LLM 应用的框架,支持规划、分支、工具使用、内存和可控执行。
本次由讲师指导的培训(线上或线下)面向初级开发者、提示工程师和数据从业者,旨在帮助他们使用 LangGraph 设计和构建可靠的多步骤 LLM 工作流。
培训结束后,参与者将能够:
- 解释 LangGraph 的核心概念(节点、边、状态)及其使用场景。
- 构建支持分支、调用工具和保持内存的提示链。
- 将检索和外部 API 集成到图工作流中。
- 测试、调试和评估 LangGraph 应用的可靠性和安全性。
课程形式
- 互动讲座和引导讨论。
- 在沙盒环境中进行指导实验和代码演练。
- 基于场景的设计、测试和评估练习。
课程定制选项
- 如需为此课程定制培训,请联系我们安排。
LangGraph在医疗保健中的应用:受监管环境中的工作流编排
35 小时LangGraph 支持由 LLM 驱动的有状态、多参与者工作流,并能精确控制执行路径和状态持久化。在医疗领域,这些功能对于合规性、互操作性以及构建符合医疗工作流的决策支持系统至关重要。
本次讲师主导的培训(线上或线下)面向中高级专业人员,旨在帮助他们设计、实施和管理基于 LangGraph 的医疗解决方案,同时应对监管、道德和操作挑战。
培训结束后,参与者将能够:
- 设计符合合规性和可审计性的医疗专用 LangGraph 工作流。
- 将 LangGraph 应用与医疗本体和标准(FHIR、SNOMED CT、ICD)集成。
- 在敏感环境中应用可靠性、可追溯性和可解释性的最佳实践。
- 在医疗生产环境中部署、监控和验证 LangGraph 应用。
课程形式
- 互动式讲座与讨论。
- 基于真实案例的实践练习。
- 在实时实验环境中进行实施实践。
课程定制选项
- 如需定制本课程,请联系我们安排。
LangGraph 法律应用
35 小时LangGraph 是一个框架,用于构建具有持久状态和执行精确控制的多参与者 LLM 应用程序,作为可组合的图。
本次由讲师指导的培训(线上或线下)面向中高级专业人士,旨在帮助他们设计、实施和操作基于 LangGraph 的法律解决方案,并确保必要的合规性、可追溯性和治理控制。
通过本次培训,参与者将能够:
- 设计特定于法律的 LangGraph 工作流程,确保可审计性和合规性。
- 将法律本体和文档标准集成到图状态和处理中。
- 实施防护措施、人工审批和可追溯的决策路径。
- 在生产环境中部署、监控和维护 LangGraph 服务,确保可观测性和成本控制。
课程形式
- 互动式讲座和讨论。
- 大量练习和实践。
- 在实时实验室环境中进行实际操作。
课程定制选项
- 如需为本课程定制培训,请联系我们安排。
使用LangGraph和LLM代理构建动态工作流
14 小时LangGraph 是一个用于构建图结构 LLM 工作流的框架,支持分支、工具使用、内存和可控执行。
本次由讲师指导的培训(线上或线下)面向中级工程师和产品团队,他们希望将 LangGraph 的图逻辑与 LLM 代理循环相结合,以构建动态、上下文感知的应用程序,如客户支持代理、决策树和信息检索系统。
在培训结束时,参与者将能够:
- 设计基于图的工作流,协调 LLM 代理、工具和内存。
- 实现条件路由、重试和回退,以确保稳健执行。
- 将检索、API 和结构化输出集成到代理循环中。
- 评估、监控并强化代理行为,以确保可靠性和安全性。
课程形式
- 互动讲座和引导讨论。
- 在沙盒环境中进行引导实验和代码演练。
- 基于场景的设计练习和同行评审。
课程定制选项
- 如需为此课程定制培训,请联系我们安排。
LangGraph用于营销自动化
14 小时LangGraph 是一个基于图的编排框架,支持条件化、多步骤的 LLM 和工具工作流,非常适合自动化和个性化内容管道。
本课程由讲师主导,提供线上或线下培训,面向中级营销人员、内容策略师和自动化开发人员,旨在帮助他们使用 LangGraph 实现动态、分支的电子邮件营销活动和内容生成管道。
在本培训结束时,参与者将能够:
- 设计具有条件逻辑的图结构内容和电子邮件工作流。
- 集成 LLM、API 和数据源以实现自动化个性化。
- 在多步骤营销活动中管理状态、记忆和上下文。
- 评估、监控和优化工作流性能和交付结果。
课程形式
- 互动式讲座和小组讨论。
- 动手实验,实现电子邮件工作流和内容管道。
- 基于场景的练习,涵盖个性化、分段和分支逻辑。
课程定制选项
- 如需为本课程定制培训,请联系我们进行安排。
Le Chat Enterprise:私有ChatOps、集成与管理控制
14 小时Le Chat Enterprise 是一款私有的 ChatOps 解决方案,为组织提供安全、可定制且受管控的对话式 AI 功能,支持 RBAC、SSO、连接器以及企业应用集成。
本次由讲师主导的培训(线上或线下)面向中级产品经理、IT 负责人、解决方案工程师以及安全/合规团队,旨在帮助他们部署、配置和管理企业环境中的 Le Chat Enterprise。
培训结束后,参与者将能够:
- 为安全部署设置和配置 Le Chat Enterprise。
- 启用 RBAC、SSO 和合规驱动的控制。
- 将 Le Chat 与企业应用程序和数据存储集成。
- 为 ChatOps 设计和实施治理和管理手册。
课程形式
- 互动式讲座和讨论。
- 大量练习和实践。
- 在实时实验环境中进行实际操作。
课程定制选项
- 如需为此课程定制培训,请联系我们安排。
高性价比LLM架构:大规模Mistral(性能/成本工程)
14 小时Mistral 是一个高性能的大型语言模型系列,专为经济高效的大规模生产部署而优化。
本课程为讲师指导的培训(线上或线下),面向高级基础设施工程师、云架构师和 MLOps 负责人,旨在帮助他们设计、部署和优化基于 Mistral 的架构,以实现最大吞吐量和最低成本。
通过本培训,参与者将能够:
- 为 Mistral Medium 3 实施可扩展的部署模式。
- 应用批处理、量化和高效服务策略。
- 在保持性能的同时优化推理成本。
- 为企业工作负载设计生产就绪的服务拓扑。
课程形式
- 互动式讲座和讨论。
- 大量练习和实践。
- 在实时实验室环境中进行实际操作。
课程定制选项
- 如需为本课程定制培训,请联系我们安排。
Productizing Conversational Assistants with Mistral Connectors & Integrations
14 小时Mistral AI is an open AI platform that enables teams to build and integrate conversational assistants into enterprise and customer-facing workflows.
This instructor-led, live training (online or onsite) is aimed at beginner-level to intermediate-level product managers, full-stack developers, and integration engineers who wish to design, integrate, and productize conversational assistants using Mistral connectors and integrations.
By the end of this training, participants will be able to:
- Integrate Mistral conversational models with enterprise and SaaS connectors.
- Implement retrieval-augmented generation (RAG) for grounded responses.
- Design UX patterns for internal and external chat assistants.
- Deploy assistants into product workflows for real-world use cases.
Format of the Course
- Interactive lecture and discussion.
- Hands-on integration exercises.
- Live-lab development of conversational assistants.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
企业级部署与Mistral Medium 3
14 小时Mistral Medium 3 是一款高性能、多模态的大型语言模型,专为在企业环境中进行生产级部署而设计。
本课程为讲师指导的线下或线上培训,面向希望在企业用例中部署、优化和保护 Mistral Medium 3 的中级到高级 AI/ML 工程师、平台架构师和 MLOps 团队。
培训结束后,参与者将能够:
- 使用 API 和自托管选项部署 Mistral Medium 3。
- 优化推理性能和成本。
- 使用 Mistral Medium 3 实现多模态用例。
- 在企业环境中应用安全和合规最佳实践。
课程形式
- 互动讲座和讨论。
- 大量练习和实践。
- 在实时实验室环境中进行动手实践。
课程定制选项
- 如需为此课程定制培训,请联系我们安排。
Mistral for Responsible AI: Privacy, Data Residency & Enterprise Controls
14 小时Mistral AI is an open and enterprise-ready AI platform that provides features for secure, compliant, and responsible AI deployment.
This instructor-led, live training (online or onsite) is aimed at intermediate-level compliance leads, security architects, and legal/ops stakeholders who wish to implement responsible AI practices with Mistral by leveraging privacy, data residency, and enterprise control mechanisms.
By the end of this training, participants will be able to:
- Implement privacy-preserving techniques in Mistral deployments.
- Apply data residency strategies to meet regulatory requirements.
- Set up enterprise-grade controls such as RBAC, SSO, and audit logs.
- Evaluate vendor and deployment options for compliance alignment.
Format of the Course
- Interactive lecture and discussion.
- Compliance-focused case studies and exercises.
- Hands-on implementation of enterprise AI controls.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Multimodal Applications with Mistral Models (Vision, OCR, & Document Understanding)
14 小时Mistral models are open-source AI technologies that now extend into multimodal workflows, supporting both language and vision tasks for enterprise and research applications.
This instructor-led, live training (online or onsite) is aimed at intermediate-level ML researchers, applied engineers, and product teams who wish to build multimodal applications with Mistral models, including OCR and document understanding pipelines.
By the end of this training, participants will be able to:
- Set up and configure Mistral models for multimodal tasks.
- Implement OCR workflows and integrate them with NLP pipelines.
- Design document understanding applications for enterprise use cases.
- Develop vision-text search and assistive UI functionalities.
Format of the Course
- Interactive lecture and discussion.
- Hands-on coding exercises.
- Live-lab implementation of multimodal pipelines.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.