课程大纲

第 1 部分 – Deep Learning 和 DNN 概念

简介 AI, Machine Learning & Deep Learning

    人工智能的历史、基本概念和通常应用远非该领域所承载的幻想 集体智慧:聚合许多虚拟代理共享的知识 遗传算法:通过选择进化出虚拟代理群体 常用学习机:定义。 任务类型:监督学习、无监督学习、强化学习 操作类型:分类、回归、聚类、密度估计、降维 机器学习算法示例:线性回归、朴素贝叶斯、随机树 机器学习 VS 深度学习:机器学习仍然是当今最先进的问题(Random Forest s 和 XGBoosts)

 

神经网络的基本概念(应用:多层感知器)

    数学基础的提醒。 神经元网络的定义:经典架构、激活和 先前激活的权重,网络深度 神经元网络学习的定义:成本、反向传播、随机梯度下降、 最大似然的函数。 神经网络建模:根据 问题的类型(回归、分类......维度的诅咒。 多特征数据和信号的 区别。根据数据选择成本函数。 神经元网络对函数的近似:演示和示例 神经元网络分布的近似值:演示和示例 数据增强:如何平衡数据集 神经元网络结果的泛化。 神经网络的初始化和正则化:L1 / L2 正则化、批量 归一化 优化和收敛算法

 

标准 ML / DL 工具

计划进行简单的演示,包括优点、缺点、在生态系统中的位置和用途。

    数据管理工具:Apache Spark、Apache Hadoop 工具 机器学习:Numpy、Scipy、Sci-kit DL 高级框架:PyTorch、Keras、Lasagne 低级深度学习框架:Theano、Torch、Caffe、Tensorflow

 

卷积 Neural Networks (CNN)。

    CNN的介绍:基本原理和应用 CNN的基本操作:卷积层,使用内核, 填充和步幅,特征图生成,池化层。扩展 1D、2D 和 3D。 介绍不同的 CNN 架构,这些架构带来了最先进的分类技术 图片:LeNet、VGG Networks、Network in Network、Inception、Resnet。介绍 每种架构带来的创新及其更全局的应用(卷积 1x1 或残差连接) 使用注意力模型。 适用于常见分类案例(文本或图像) 用于生成的 CNN:超分辨率、像素到像素分割。介绍 增加图像生成特征图的主要策略。

 

复发性 Neural Networks (RNN)。

    RNN的介绍:基本原理和应用。 RNN 的基本操作:隐藏激活、随时间反向传播、 展开版本。 向门控循环单元 (GRU) 和 LSTM(长短期记忆)的演变。 介绍不同的状态和这些架构带来的演变 收敛和消失梯度问题 经典架构:时间序列的预测、分类...... RNN 编码器解码器类型架构。使用注意力模型。 NLP应用:单词/字符编码、翻译。 视频应用:预测视频序列的下一个生成图像。

代际模型:变分自编码器 (VAE) 和生成对抗网络 (GAN)。

    介绍代际模型,与CNN链接 自动编码器:降低维度并限制生成 变分自动编码器:给定分布 的代际模型和近似值。潜在空间的定义和使用。重新参数化技巧。观察到的应用和 限制 生成对抗网络:基础。 双网络架构 (生成器和鉴别器),具有交替学习和成本函数。 GAN的收敛和遇到的困难。 改进的收敛性:Wasserstein GAN,开始。地球移动距离。 用于生成图像或照片、文本生成、超分辨率的应用程序。

深 Reinforcement Learning。

    强化学习的演示:在定义的环境中控制智能体 按状态和可能的行动 使用神经网络来逼近状态函数 深度Q学习:体验回放,并应用于视频游戏的控制。 优化学习策略。政策上和政策外。演员评论家 建筑。A3C的。 应用:控制单个视频游戏或数字系统。

 

第 2 部分 – Theano for Deep Learning

Theano 基础知识

    介绍 安装和配置

Theano 函数

    输入、输出、更新、给定

使用 Theano 训练和优化神经网络

    神经网络建模 逻辑回归 隐藏层 训练网络 计算和分类 优化 日志丢失

测试模型

第 3 部分 – 使用 Tensorflow 的 DNN

TensorFlow 基础知识

    创建、初始化、保存和恢复 TensorFlow 变量 进给、读取和预加载 TensorFlow 数据 如何使用 TensorFlow 基础设施大规模训练模型 使用 TensorBoard 可视化和评估模型

TensorFlow 力学

    准备数据 下载 输入和占位符 构建 GraphS 推理 损失 训练
训练模型 图表
  • 会议
  • 火车环线
  • 评估模型 构建评估图
  • 评估输出
  • 斯凯恩加林
  • 激活函数 感知器学习算法 使用感知器进行二元分类 使用感知器进行文档分类 感知器的局限性
  • 从感知器到支持向量机

      内核和内核技巧 最大边距分类和支持向量

    人造 Neural Networks

      非线性决策边界 前馈和反馈人工神经网络 多层感知器 最小化成本函数 前向传播 反向传播 改进神经网络的学习方式

    卷积 Neural Networks

      GoALS 模型架构 原则 代码组织 启动和训练模型 评估模型

     

      以下模块的基本介绍(根据时间安排提供简要介绍):

    Tensorflow - 高级用法

    线程和队列 分布式 TensorFlow 编写文档和共享模型 自定义数据读取器 操作 TensorFlow 模型文件

    TensorFlow 服务

      介绍 基本服务教程 高级服务教程 Serving Inception 模型教程

    要求

    物理、数学和编程背景。参与图像处理活动。

    代表们应该事先了解机器学习概念,并且应该从事 Python 编程和库方面的工作。

     35 小时

    人数



    每位参与者的报价

    相关课程

    课程分类