课程: 人工智能基础知识系列：神经网络

免费学习该课程！

今天就开通帐号，24,700 门业界名师课程任您挑！

使用反向传播发现错误

周至县政协专题调研西南塬区生态保护与开发工作

课程: 人工智能基础知识系列：神经网络

开始一个月试用 购买团队方案

使用反向传播发现错误

“ 百度 年初市委、市政府确定的各项重点工作和重大课题调研有力有序推进。

梯度下降法可以调整神经网络， 让代价函数最小化。 实质上，它是每次对神经网络 进行一点点微调。 一定要记住，代价函数是网络的输出 与正确答案之间所有差值的平均数。 你并不了解每个单独的输出神经元表现如何， 而只是总体上了解网络所做分类的准确性。 打个比方。每次选举时，许多民调公司 都会到各地进行民调，预测谁在竞选中领先。 这些民调数据通常存在误差幅度。 你会听到类似这样的话， “这个民调 可能有正负 3 个百分点的误差”。 这表示，如果民调数据显示双方势均力敌， 一名候选人仍有可能以 6 个百分点的优势获胜， 而这在误差幅度内。 通常，误差幅度越小，民调结果越准确。 误差幅度为 3 个百分点的民调， 通常比误差幅度为 6 个百分点的民调更准确。 每个民调都可能出错， 但误差幅度较小的民调，错误应该更少。 这与神经网络的代价函数几乎是同样的概念。 网络可能出错，但要设法将代价最小化， 以减小误差幅度。 你要设法优化整个系统。 使用代价函数的挑战之一， 是它并没有真正告诉你 如何改进系统的各个部分， 它只告诉你网络是否表现很好， 要改进网络， 你还需要调整连接上的所有权重和偏置。 你希望网络学习如何将代价函数最小化， 并提高自身表现。 使用反向传播可以做到这一点。 神经网络通过反向传播的方式 来调整每个权重以最小化代价函数。 假设你站在一个 有几百个小刻度盘的控制板前。 你看着屏幕上的刻度盘， 这些数字介于 0 到 1 之间。 你的目标是让代价函数尽可能接近于 0。 在尝试最小化代价函数时， 你无需了解有关数据的任何信息。 你所知道的就是数百个刻度盘 以及代价函数的数字。 当仔细观察这些刻度盘时， 你发现它们都标记着从 0 到 1。 刻度盘的底部是 0， 如果把它一直往上调，就得到 1。 每一个刻度盘都有不同的设置。 这些就是神经元之间连接的不同权重。 看看代价函数中的所有这些刻度盘， 你要如何设置来改善这个数值？ 你会把它们都设为 1， 然后看看会发生什么吗？ 也许可以把它们都设为 0。 也许可以随机调整几个刻度盘， 看看会发生什么。 反向传播的做法稍有不同。 它会寻找权重最大的刻度盘， 然后把这些加权刻度盘的数值都调大一点， 看看能否最小化代价函数， 如果不能，网络就会把它们调小再低一点。 网络正在进一步学习数据， 尽管它实际上并没有看到和理解数据的内容。…

内容