联系我们

课程大纲

安全本地AI基础

  • 理解受监管环境中“本地”与“企业内部”AI的含义
  • 云AI与内部部署在处理敏感工作负载时的对比
  • 私人助手及工作流支持在企业中的常见用例
  • 安全本地AI架构的核心组件

Ollama与开放模型基础

  • Ollama如何在本地开发栈中发挥作用
  • 在本地拉取、运行及管理模型
  • 根据规模、质量、硬件及许可证选择模型
  • 将模型选项匹配至实际业务任务

准备企业内部环境

  • 主机、工作站与服务器的准备工作
  • 安装并配置用于本地推理的Ollama
  • 使用容器及内部开发工具链
  • 验证API访问权限及基础运营就绪状态

高效使用本地模型

  • 通过系统指令运行提示词并塑造输出结果
  • 重用模板以执行一致的企业任务
  • 管理模型版本及内部产物
  • 针对CPU和GPU部署进行基础性能调优

构建实用代理式工作流

  • 了解受控环境中使工作流具备“代理”特性的要素
  • 规划、工具使用及响应循环的简单模式
  • 为内部运营设计聚焦任务型的助手
  • 添加人工审核、回退逻辑及错误处理机制

私有检索工作流

  • 面向内部知识访问的检索增强生成基础
  • 准备用于分块、索引和搜索的文档
  • 将本地向量数据库连接至基于Ollama的应用程序
  • 通过更优的检索模式提升相关性与回答质量

安全、治理与合规实践

  • 数据处理边界及隐私考量
  • 访问控制、日志记录及审计支持
  • 提示词安全、输出控制及安全护栏
  • 受监管部署与运营中的治理检查点

企业集成模式

  • 通过内部API暴露本地AI能力
  • 将助手集成至内部应用与服务
  • 支持助手、批处理及工作流自动化用例
  • 确保解决方案位于受控网络边界之内

评估本地AI解决方案

  • 评估质量、可靠性及一致性
  • 针对业务、政策及安全要求进行测试
  • 比较特定企业任务的模型选项
  • 为内部团队建立实用的改进循环

动手实现实验

  • 利用Ollama与开放模型构建私有助手
  • 添加对经批准内部文档的检索功能
  • 引入简单的代理动作及安全控制
  • 审查部署、运营及治理检查点

采用规划与后续步骤

  • 回顾关键设计与部署决策
  • 识别受监管AI项目中常见的陷阱
  • 规划试点用例并协调利益相关方
  • 制定安全本地AI采用的路线图

要求

  • 具备AI概念及软件开发的基础知识
  • 熟悉命令行工具、容器或本地开发环境
  • 具备基本的脚本编写或编程经验

适用人群

  • 在内部基础设施上构建私有AI解决方案的开发者与技术团队
  • 支持受监管环境中AI应用的合规、安全及平台专业人员
  • 金融、医疗、政府及国防行业的技术领导者,正在评估企业内部AI的采用
 21 小时

即将举行的公开课程

课程分类