联系我们
 课程时长 21 小时

课程大纲

多模态AI与Ollama简介

  • 多模态学习概述
  • 视觉-语言集成的关键挑战
  • Ollama的功能与架构

设置Ollama环境

  • 安装和配置Ollama
  • 本地模型部署操作
  • 将Ollama与Python和Jupyter集成

处理多模态输入

  • 文本和图像集成
  • 引入音频和结构化数据
  • 设计预处理管道

文档理解应用

  • 从PDF和图像中提取结构化信息
  • 结合OCR与语言模型
  • 构建智能文档分析工作流

视觉问答(VQA)

  • 设置VQA数据集和基准
  • 训练和评估多模态模型
  • 构建交互式VQA应用

设计多模态智能体

  • 多模态推理的智能体设计原则
  • 结合感知、语言和行动
  • 部署智能体用于实际应用场景

高级集成与优化

  • 使用Ollama微调多模态模型
  • 优化推理性能
  • 可扩展性和部署考虑

总结与后续步骤

要求

  • 扎实的机器学习概念理解
  • 具有PyTorch或TensorFlow等深度学习框架经验
  • 熟悉自然语言处理和计算机视觉

目标受众

  • 机器学习工程师
  • AI研究人员
  • 集成视觉和文本工作流的产品开发者

即将举行的公开课程

课程分类