博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
为何神经网络权重初始化要随机初始化,不能以0为初始化
阅读量:5798 次
发布时间:2019-06-18

本文共 180 字,大约阅读时间需要 1 分钟。

根据deeplearn.ai吴恩达深度学习课程3.11总结

因为如果W初始化为0 则对于任何Xi,每个隐藏层对应的每个神经元的输出都是相同的,这样即使梯度下降训练,无论训练多少次,这些神经元都是对称的,无论隐藏层内有多少个结点,都相当于在训练同一个函数。

转载于:https://www.cnblogs.com/guoyaohua/p/8053207.html

你可能感兴趣的文章
再次思考 classpath 环境变量 等
查看>>
flask+sqlite3+echarts3+ajax 异步更新数据
查看>>
C# 使用NPlot绘图技巧
查看>>
H5前端性能测试快速入门
查看>>
Atitit vod ver 12 new feature v12 pb2 影吧 视频 电影 点播 播放系统v12新特性
查看>>
QCustomplot使用分享(三) 图
查看>>
055 存储加压缩
查看>>
CentOS 6.6 FTP install
查看>>
C#------判断btye[]是否为空
查看>>
图解Ajax工作原理
查看>>
oracle导入导出小记
查看>>
聊一聊log4j2配置文件log4j2.xml
查看>>
NeHe OpenGL教程 第七课:光照和键盘
查看>>
修改上一篇文章的node.js代码,支持默认页及支持中文
查看>>
Php实现版本比较接口
查看>>
删除设备和驱动器中软件图标
查看>>
Android studio开多个窗口引起的问题
查看>>
第四章 TCP粘包/拆包问题的解决之道---4.1---
查看>>
RedisRepository分享和纠错
查看>>
第二十篇:类操作符重载的相关规定与具体实现示例
查看>>