课程大纲

第 1 部分 – Deep Learning 和 DNN 概念

简介 AI, Machine Learning & Deep Learning

    人工智能的历史、基本概念和通常应用远非该领域所承载的幻想 集体智慧:聚合许多虚拟代理共享的知识 遗传算法:通过选择进化出虚拟代理群体 常用学习机:定义。 任务类型:监督学习、无监督学习、强化学习 操作类型:分类、回归、聚类、密度估计、降维 机器学习算法示例:线性回归、朴素贝叶斯、随机树 机器学习 VS 深度学习:机器学习仍然是当今最先进的问题(Random Forest s 和 XGBoosts)

 

神经网络的基本概念(应用:多层感知器)

    数学基础的提醒。 神经元网络的定义:经典架构、激活和 先前激活的权重,网络深度 神经元网络学习的定义:成本、反向传播、随机梯度下降、 最大似然的函数。 神经网络建模:根据 问题的类型(回归、分类......维度的诅咒。 多特征数据和信号的 区别。根据数据选择成本函数。 神经元网络对函数的近似:演示和示例 神经元网络分布的近似值:演示和示例 数据增强:如何平衡数据集 神经元网络结果的泛化。 神经网络的初始化和正则化:L1 / L2 正则化、批量 归一化 优化和收敛算法

 

标准 ML / DL 工具

计划进行简单的演示,包括优点、缺点、在生态系统中的位置和用途。

    数据管理工具:Apache Spark、Apache Hadoop 工具 机器学习:Numpy、Scipy、Sci-kit DL 高级框架:PyTorch、Keras、Lasagne 低级深度学习框架:Theano、Torch、Caffe、Tensorflow

 

卷积 Neural Networks (CNN)。

    CNN的介绍:基本原理和应用 CNN的基本操作:卷积层,使用内核, 填充和步幅,特征图生成,池化层。扩展 1D、2D 和 3D。 介绍不同的 CNN 架构,这些架构带来了最先进的分类技术 图片:LeNet、VGG Networks、Network in Network、Inception、Resnet。介绍 每种架构带来的创新及其更全局的应用(卷积 1x1 或残差连接) 使用注意力模型。 适用于常见分类案例(文本或图像) 用于生成的 CNN:超分辨率、像素到像素分割。介绍 增加图像生成特征图的主要策略。

 

复发性 Neural Networks (RNN)。

    RNN的介绍:基本原理和应用。 RNN 的基本操作:隐藏激活、随时间反向传播、 展开版本。 向门控循环单元 (GRU) 和 LSTM(长短期记忆)的演变。 介绍不同的状态和这些架构带来的演变 收敛和消失梯度问题 经典架构:时间序列的预测、分类...... RNN 编码器解码器类型架构。使用注意力模型。 NLP应用:单词/字符编码、翻译。 视频应用:预测视频序列的下一个生成图像。

代际模型:变分自编码器 (VAE) 和生成对抗网络 (GAN)。

    介绍代际模型,与CNN链接 自动编码器:降低维度并限制生成 变分自动编码器:给定分布 的代际模型和近似值。潜在空间的定义和使用。重新参数化技巧。观察到的应用和 限制 生成对抗网络:基础。 双网络架构 (生成器和鉴别器),具有交替学习和成本函数。 GAN的收敛和遇到的困难。 改进的收敛性:Wasserstein GAN,开始。地球移动距离。 用于生成图像或照片、文本生成、超分辨率的应用程序。

深 Reinforcement Learning。

    强化学习的演示:在定义的环境中控制智能体 按状态和可能的行动 使用神经网络来逼近状态函数 深度Q学习:体验回放,并应用于视频游戏的控制。 优化学习策略。政策上和政策外。演员评论家 建筑。A3C的。 应用:控制单个视频游戏或数字系统。

 

第 2 部分 – Theano for Deep Learning

Theano 基础知识

    介绍 安装和配置

Theano 函数

    输入、输出、更新、给定

使用 Theano 训练和优化神经网络

    神经网络建模 逻辑回归 隐藏层 训练网络 计算和分类 优化 日志丢失

测试模型

第 3 部分 – 使用 Tensorflow 的 DNN

TensorFlow 基础知识

    创建、初始化、保存和恢复 TensorFlow 变量 进给、读取和预加载 TensorFlow 数据 如何使用 TensorFlow 基础设施大规模训练模型 使用 TensorBoard 可视化和评估模型

TensorFlow 力学

    准备数据 下载 输入和占位符 构建 GraphS 推理 损失 训练
训练模型 图表
  • 会议
  • 火车环线
  • 评估模型 构建评估图
  • 评估输出
  • 斯凯恩加林
  • 激活函数 感知器学习算法 使用感知器进行二元分类 使用感知器进行文档分类 感知器的局限性
  • 从感知器到支持向量机

      内核和内核技巧 最大边距分类和支持向量

    人造 Neural Networks

      非线性决策边界 前馈和反馈人工神经网络 多层感知器 最小化成本函数 前向传播 反向传播 改进神经网络的学习方式

    卷积 Neural Networks

      GoALS 模型架构 原则 代码组织 启动和训练模型 评估模型

     

      以下模块的基本介绍(根据时间安排提供简要介绍):

    Tensorflow - 高级用法

    线程和队列 分布式 TensorFlow 编写文档和共享模型 自定义数据读取器 操作 TensorFlow 模型文件

    TensorFlow 服务

      介绍 基本服务教程 高级服务教程 Serving Inception 模型教程

    要求

    物理、数学和编程背景。参与图像处理活动。

    代表们应该事先了解机器学习概念,并且应该从事 Python 编程和库方面的工作。

      35 小时
     

    人数


    开始

    完结


    Dates are subject to availability and take place between 09:30 and 16:30.
    Open Training Courses require 5+ participants.

    相关课程

    课程分类