感谢您发送咨询！我们的团队成员将很快与您联系。
感谢您发送预订！我们的团队成员将很快与您联系。
课程大纲
安全的本地AI基础
- 在受监管环境中本地和内部AI的含义。
- 云AI与内部部署在敏感工作负载中的对比。
- 私有助手和工作流支持的常见企业用例。
- 安全的本地AI架构的核心组件。
Ollama与开源模型基础
- Ollama如何融入本地开发栈。
- 在本地拉取、运行和管理模型。
- 根据规模、质量、硬件和许可证选择模型。
- 将模型选项与实际的业务任务匹配。
准备内部环境
- 主机、工作站和服务器的准备。
- 安装并配置Ollama以进行本地推理。
- 使用容器和内部开发工具。
- 验证API访问和基本操作准备。
有效使用本地模型
- 运行提示并通过系统指令调整输出。
- 为一致的企业任务重用模板。
- 管理模型版本和内部工件。
- 为CPU和GPU部署进行基本性能调优。
构建实用的代理工作流
- 在受控环境中，什么是代理工作流。
- 简单的规划、工具使用和响应循环模式。
- 为内部操作设计任务导向的助手。
- 添加人工审查、备用逻辑和错误处理。
私有检索工作流
- 为内部知识访问构建检索增强生成基础。
- 准备文档以进行分块、索引和搜索。
- 将本地向量存储连接到基于Ollama的应用。
- 通过改进检索模式提高相关性和答案质量。
安全、治理和合规实践
- 数据处理边界和隐私考虑。
- 访问控制、日志记录和审计支持。
- 提示安全、输出控制和防护栏。
- 受监管部署和操作的治理检查点。
企业集成模式
- 通过内部API暴露本地AI能力。
- 将助手与内部应用和服务集成。
- 支持助手、批处理和自动化工作流用例。
- 确保解决方案保持在受控网络边界内。
评估本地AI解决方案
- 评估质量、可靠性和一致性。
- 根据业务、政策和安全需求进行测试。
- 为特定企业任务比较模型选项。
- 为内部团队建立实用的改进周期。
动手实验
- 使用Ollama和开源模型构建私有助手。
- 添加对已批准内部文档的检索。
- 引入简单的代理操作和安全控制。
- 审查部署、操作和治理检查点。
采用规划与后续步骤
- 回顾关键设计和部署决策。
- 识别受监管AI项目中的常见陷阱。
- 规划试点用例和利益相关者对齐。
- 制定安全的本地AI采用路线图。
要求
- 对AI概念和软件开发有基本了解。
- 熟悉命令行工具、容器或本地开发环境。
- 具备基本的脚本或编程经验。
受众
- 在内部基础设施上构建私有AI解决方案的开发人员和技术团队。
- 在受监管环境中支持AI的安全、合规和平台专业人员。
- 金融、医疗、政府和国防领域评估本地AI采用的技术领导者。
21 小时
