《深度网络模型详解.ppt》由会员分享,可在线阅读,更多相关《深度网络模型详解.ppt(19页珍藏版)》请在金锄头文库上搜索。
1、 深度网络模型详解 2017 4 27 Minsky和Seymour Papert专著Perceptron 单层感知机不能解决XOR问题 1943 1969 1986 1998 2006 1957 单层感知机 MCP神经元 数学模型 1989 1997 深度信念网 LeNet LSTM 万能逼近定 理卷积神经 网络 2010 Xavier 2011 ReLU 2012 Dropout AlexNet Clarifai GoogLeNet VGGNet R CNN 2015 BN Faster R CNN Residual Net 反向传播算法 主要内容 卷积神经网络基础 物体分类模型 LeNe
2、t AlexNet GoogLeNet VGGNet ResNet 目标检测模型 RCNN系列 SSD Yolo系列 卷积神经网络 卷积计算层 卷积计算层 深度 步长 填充值 激励层 Sigmoid vs ReLU 池化层 取区域平均或最大 解释 LeNet net train test prototxt AlexNet net deploy prototxt LRN 局部响应归一化层 local size 默认为5 如果是跨通道LRN 则表示求和的通道数 如果是在通道内LRN 则表示求和的正方形区域长度 alpha 默认为1 归一化公式中的参数 beta 默认为5 归一化公式中的参数 norm region 默认为ACROSS CHANNELS 有两个选择 ACROSS CHANNELS表示在相邻的通道间求和归一化 WITHIN CHANNEL表示在一个通道内部特定的区域内进行求和归 一化 与前面的local size参数对应 GoogLeNet VGGNet ResNet R CNN Fast R CNN RoI pooling Faster R CNN RPN SSD vs Yolo Yolo V2 类似SSD 使用anchor boxes 高分辨率输入 Batch Normalization 聚类选择boxes 多尺度训练