课程大纲

Ollama 简介

  • Ollama 是什么?它是如何工作的?
  • 本地运行 AI 模型的好处
  • 支持的 LLM 概述(Llama、DeepSeek、Mistral 等)

安装与设置 Ollama

  • 系统要求和硬件考虑
  • 在不同操作系统上安装 Ollama
  • 配置依赖项和环境设置

本地运行 AI 模型

  • 在 Ollama 中下载和加载 AI 模型
  • 通过命令行与模型交互
  • 本地 AI 任务的基本提示工程

优化性能与资源使用

  • 管理硬件资源以实现高效 AI 执行
  • 减少延迟并改善模型响应时间
  • 对不同模型进行性能基准测试

本地 AI 部署的 Use Case

  • AI 驱动的聊天机器人和虚拟助手
  • 数据处理和自动化任务
  • 注重隐私的 AI 应用

总结与下一步

要求

  • 对AI和机器学习概念有基本了解
  • 熟悉命令行界面

受众

  • 不依赖云服务的AI模型开发者
  • Business对AI隐私和成本效益部署感兴趣的专业人士
  • 探索本地模型部署的AI爱好者
 7 小时

即将举行的公开课程

课程分类