感谢您发送咨询！我们的团队成员将很快与您联系。
感谢您发送预订！我们的团队成员将很快与您联系。
课程大纲
LLM应用架构与设计
- 常见的OpenAI应用模式，如助手、副驾驶和工作流自动化。
- 根据业务需求、可靠性和用户体验选择合适的架构。
- 从原型代码过渡到可维护的应用设计。
提示、上下文与结构化输出
- 构建系统、用户和开发者指令，以实现可预测的行为。
- 设计提示以确保一致性、任务控制和更清晰的响应。
- 使用结构化输出来支持下游应用逻辑。
- 管理上下文窗口、对话状态和响应质量。
工具使用与工作流编排
- 使用函数调用和工具支持的工作流与外部服务交互。
- 验证输入和输出，处理错误，并应用回退行为。
- 设计多步骤流程以完成实际业务任务。
检索与知识基础
- 确定何时适合使用检索增强生成。
- 准备文档并分块内容以支持有效检索。
- 检索相关上下文并将响应基于可信来源。
评估、防护措施与操作准备
- 定义质量标准并根据预期结果测试工作流。
- 减少幻觉，处理不安全、不相关或模糊的请求。
- 监控使用情况、延迟、令牌消耗和成本。
- 为应用的部署、支持和迭代改进做准备。
实际操作研讨会
- 构建一个端到端的OpenAI应用，结合提示、结构化输出、工具使用和检索。
- 回顾设计决策、常见问题以及生产使用的实际后续步骤。
要求
- 熟悉大语言模型概念和基于API的应用开发。
- 有使用REST API、JSON和提示驱动应用工作流的经验。
- 具备Python、JavaScript或类似语言的中级编程经验。
受众
- 构建LLM驱动应用的软件开发人员。
- 设计基于OpenAI解决方案的AI工程师和技术负责人。
- 负责生产AI功能的产品团队和解决方案架构师。
7 小时
