感谢您发送咨询！我们的团队成员将很快与您联系。
感谢您发送预订！我们的团队成员将很快与您联系。
课程时长 7 小时
课程大纲
从文本生成到类型化决策
- 决策模型返回什么
- 系统一决策与推理型LLM
- 有界决策的成本和延迟特征
开放权重决策模型全景
- AWS Labs的Strands Decider 2B
- JEV和GEV开放权重家族
- Pplx-Decider、Liquid D1和Clef
- 许可证和部署差异
深入决策模型
- 无语言建模头的LLM躯干
- 对候选选项进行评分的指针头
- 置信度评分的来源
运行您的首批决策
- 在CPU和消费级GPU上的本地部署
- 措辞问题和选项集
- 在单次运行中提出多个问题
- 阈值和回退行为
判断决策质量
- JevBench和决策基准测试
- 准确率与校准
- Brier评分和置信度可靠性
- 决策模型不是正确工具的任务
要求
- 熟悉大语言模型及基于提示的应用
- 无需机器学习训练经验
受众
- 评估智能代理工作流中决策模型的AI工程师
- 用有界决策替代LLM调用的软件开发者
- 设计智能代理架构的解决方案和平台架构师
- 评估决策模型选项的技术产品经理
