联系我们

课程大纲

LLM应用架构与设计

  • OpenAI应用的常见模式,如助手、副驾驶和工作流自动化
  • 根据业务需求、可靠性和用户体验选择正确的架构
  • 从原型代码过渡到可维护的应用设计

提示、上下文与结构化输出

  • 为系统、用户和开发者指令设计结构化,以实现可预测的行为
  • 设计提示以实现一致性、任务控制和更清晰的响应
  • 使用结构化输出来支持下游应用逻辑
  • 管理上下文窗口、对话状态和响应质量

工具使用与工作流编排

  • 使用函数调用和工具驱动的工作流与外部服务交互
  • 验证输入和输出,处理错误,并应用回退行为
  • 为实际业务任务设计多步骤流程

检索与知识锚定

  • 确定何时适合使用检索增强生成
  • 准备文档并分块内容以实现有效检索
  • 检索相关上下文并将响应锚定在可信来源中

评估、防护与操作准备

  • 定义质量标准并测试工作流是否符合预期结果
  • 减少幻觉并处理不安全、不相关或模糊的请求
  • 监控使用情况、延迟、令牌消耗和成本
  • 为应用的部署、支持和迭代改进做好准备

动手实践工作坊

  • 构建一个端到端的OpenAI应用,结合提示、结构化输出、工具使用和检索
  • 回顾设计决策、常见问题以及生产使用的实际后续步骤

要求

  • 熟悉大语言模型概念和基于API的应用开发
  • 具备使用REST API、JSON和提示驱动应用工作流的经验
  • 具备Python、JavaScript或类似语言的中级编程经验

受众

  • 构建LLM驱动应用的软件开发人员
  • 设计基于OpenAI解决方案的AI工程师和技术负责人
  • 负责生产级AI功能的产品团队和解决方案架构师
 7 小时

即将举行的公开课程

课程分类