课程大纲

边缘与代理式AI简介

  • 代理式AI与边缘计算概述
  • 延迟、隐私与带宽的考量
  • 架构对比:云代理与边缘代理

设计轻量级代理架构

  • 为受限系统分解代理循环
  • 异步设计以提高计算效率
  • 平衡自主性与连接性

设置开发环境

  • 安装边缘AI的Python框架
  • 配置TensorFlow Lite和PyTorch Mobile
  • 在Raspberry Pi或类似设备上部署测试环境

实现设备端推理

  • 转换和量化模型以进行边缘部署
  • 使用TensorFlow Lite和ONNX Runtime进行推理
  • 将推理结果集成到代理决策循环中

将代理与硬件和物联网集成

  • 连接传感器、执行器和物联网模块
  • 本地数据收集与处理管道
  • 离线操作与事件触发行为

优化与监控

  • 针对低功耗与高速进行性能调优
  • 边缘缓存与模型压缩技术
  • 监控与调试边缘代理

实践项目:在边缘硬件上部署轻量级代理

  • 设计用于物联网或机器人任务的小型自主代理
  • 实现模型推理与本地逻辑
  • 测试并优化延迟与可靠性

总结与后续步骤

要求

  • 具备Python编程经验
  • 对机器学习工作流程有基本了解
  • 熟悉嵌入式或边缘计算概念

受众

  • 将AI集成到硬件系统中的嵌入式开发人员
  • 设计设备端推理解决方案的边缘ML工程师
  • 部署代理式AI以实现自主操作的机器人团队
 21 小时

即将举行的公开课程

课程分类