感谢您发送咨询！我们的团队成员将很快与您联系。
感谢您发送预订！我们的团队成员将很快与您联系。
课程时长 21 小时
课程大纲
安全本地AI基础
- 理解受监管环境中“本地”与“企业内部”AI的含义
- 云AI与内部部署在处理敏感工作负载时的对比
- 私人助手及工作流支持在企业中的常见用例
- 安全本地AI架构的核心组件
Ollama与开放模型基础
- Ollama如何在本地开发栈中发挥作用
- 在本地拉取、运行及管理模型
- 根据规模、质量、硬件及许可证选择模型
- 将模型选项匹配至实际业务任务
准备企业内部环境
- 主机、工作站与服务器的准备工作
- 安装并配置用于本地推理的Ollama
- 使用容器及内部开发工具链
- 验证API访问权限及基础运营就绪状态
高效使用本地模型
- 通过系统指令运行提示词并塑造输出结果
- 重用模板以执行一致的企业任务
- 管理模型版本及内部产物
- 针对CPU和GPU部署进行基础性能调优
构建实用代理式工作流
- 了解受控环境中使工作流具备“代理”特性的要素
- 规划、工具使用及响应循环的简单模式
- 为内部运营设计聚焦任务型的助手
- 添加人工审核、回退逻辑及错误处理机制
私有检索工作流
- 面向内部知识访问的检索增强生成基础
- 准备用于分块、索引和搜索的文档
- 将本地向量数据库连接至基于Ollama的应用程序
- 通过更优的检索模式提升相关性与回答质量
安全、治理与合规实践
- 数据处理边界及隐私考量
- 访问控制、日志记录及审计支持
- 提示词安全、输出控制及安全护栏
- 受监管部署与运营中的治理检查点
企业集成模式
- 通过内部API暴露本地AI能力
- 将助手集成至内部应用与服务
- 支持助手、批处理及工作流自动化用例
- 确保解决方案位于受控网络边界之内
评估本地AI解决方案
- 评估质量、可靠性及一致性
- 针对业务、政策及安全要求进行测试
- 比较特定企业任务的模型选项
- 为内部团队建立实用的改进循环
动手实现实验
- 利用Ollama与开放模型构建私有助手
- 添加对经批准内部文档的检索功能
- 引入简单的代理动作及安全控制
- 审查部署、运营及治理检查点
采用规划与后续步骤
- 回顾关键设计与部署决策
- 识别受监管AI项目中常见的陷阱
- 规划试点用例并协调利益相关方
- 制定安全本地AI采用的路线图
要求
- 具备AI概念及软件开发的基础知识
- 熟悉命令行工具、容器或本地开发环境
- 具备基本的脚本编写或编程经验
适用人群
- 在内部基础设施上构建私有AI解决方案的开发者与技术团队
- 支持受监管环境中AI应用的合规、安全及平台专业人员
- 金融、医疗、政府及国防行业的技术领导者，正在评估企业内部AI的采用
