策略产品经理必读系列—第六讲深度学习与神经网络.docx

《策略产品经理必读系列—第六讲深度学习与神经网络.docx》由会员分享，可在线阅读，更多相关《策略产品经理必读系列—第六讲深度学习与神经网络.docx（20页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、策略产品经理必读系列一第六讲深度学习与神经网络一、人工智能、机器学习、深度学习是什么人工智能是什么在介绍深度学习之前，先和大家介绍一下AI和Machine Learning , 才能理清AI、Machine Learning. Deep Learning三者之间的关系。1956年8月，在美国汉诺威小镇的达特茅斯学院中，几位科学家在会 议上正式提出了 人工智能”这一概念，这一年也被称为人工智能元年。 在此之前，人类已经制造出各类各样的机器如汽车、飞机等，但这些机 器都需要经过人来操作使用，无法自己具备操作的能力。科学家探讨能 不能制造出一个可以像人类大脑的一样思考的机器，拥有人类的智慧, 这就是

2、人工智能。同时科学家们也对AI未来的开展畅想了三个阶段:InputsBias 模拟生物神经网络中种 蛉元的一般敏感性。每模拟生物和经 同珞中来自其 他神经元的输 人模拟生物神蛭 网络中唯个神 经无对外接收 的突淞强度不 同，所以外界 接收的输入乘 以一定权重。lar xlfx2fx3fxn:模拟生物神经网络中来自其他神经元的输入； 3_1 , w_2 , w_3 f w_n :模拟生物神经网络中每个神经元对外 接收的突触强度不同，所以外界接收的输入乘以一定权重；X-Sum :模拟生物神经网络中神经元对外接收的信号进行累加汇 总； Bias ：模拟生物神经网络中神经元的一般敏感性。每个神经元的

3、敏感性不同，所以需要一定的偏差来调整汇总值； Activation Function :模拟生物神经网络中信号累积到一定程度产生的动作电位，当累积到一定程度就会激活动作电位。实际使用时我们一般使用Sigmoid函数;Activabon Function 0() WOOutput:模拟生物神经网络中神经元对外释放的新的信号； 现在我们知道了最简单的神经元模型了，我们如何使用该模型从历史数 据中进行学习，推导出相关模型了。我们使用上述MP模型学习一个最 简单的二分类模型。Updated 13 J 34因为Input只有1个值 0时输出为1 ,当中(*) w 0时输出为0。然后对于参数的更新规那么U

4、pdated Rule ,我们使用的Sequential Delta learning rule 和 Back Propagation 算法，该规那么和算法不详细介绍了，可以理解为就像物理、数学领域一些科学家发现的普适性定理和公式，已经得到了证明，用就完事了。因为Input只有1个值x_l ,所以初始设定参数3_1 ,同时还需要一个 Bias，我们将Bias设定为3_0。上述两个参数，我们需要从历史数据中 学习出来，但是最开始我们需要一个初始值，假设初始值为3=2 , 3_0 = 1.5 ；然后我们通过不断地更新迭代最终3和U)_0将稳定在 两个固定的值，这就是我们最终通过一个简单MP模型学习

5、出来的参数。 下列图是整个更新迭代学习的过程：/必 y=977* factual - ypredicted)各注. V是更新规那么里面的学习率，彳01,0(15*1+2*0) 0,y=ll*(0-l)*l,l = -1,-1-1.5,101,0(-1.5*l + F0)0,y=ll*(0-l)*l,l =-1,-1-1.5,001,0(-1.5*l+0*0)0,y=0l*(l-0)*l,0=l,0-0.5,011,1(-0.5*l+0*l)0,y=0l*(0-0)*l,l=0,0-0.5,001,0(-0.5*1+0*0)0,v=lri&QunwkM 一一 .L-Q4-101,0(-0.5*1

6、4 *0)0,y=01*(1-0)*1,0=1,00.5,-111,1(0.5*M*l)0,y = 11*(1-1)*1,0=0,00.5,-1大家可以看到上图最后一次循环3已经不再发生变化，说明05-1就是 最终我们学习出来的固定参数。那么上述整个过程就是一个通过神经网 络MP模型学习的全过程。下列图是最终学习出来的Classifier分类器, 我们带入一个新的数据，就可以进行Class预测了。1W*) oy 3(0.5 - 1 * %!)J 0 p(*) 树突从外界接 受信号,传递 给细思体突触后神经元动作电位从轴突传导至轴 突末梢,释放神经递技释放的神经速康将 对突触后的神经元, 生一定

7、的招喻细电体整合外界接收 到的信号,如果总体 足够强,到达一定闽 值、细电体就会发出 一个动作电位神经速质存在上百种, 按照生理功能主要分 为兴奋性速质和抑制性递质:通过神经元接收外界信号，到达一定阑依，触发动作也位，通过突触释放神经递质，可以是兴奋或抑制, :后神经元。通过此实现大脑的计算、记忆、逻辑处理等，进行做出一系列行为等。同苗不甘地占手圆神: :这新的突触连接和对现有突触进行改造，来进行调整。7,丁 士通过神经元接收外界信号，到达一定阈值，触发动作电位，通过突触释 放神经递质，可以是兴奋或抑制，影响突触后神经元。通过此实现大脑 的计算、记忆、逻辑处理等，进行做出一系列行为等。同时不断地在不 同神经元之间构建新的突触连接和对现有突触进行改造，来进行调整。有时候不得不感叹大自然的鬼斧神工，900亿神经元组成的神经网络可 以让大脑实现如此复杂的计算和逻辑处理。科学家们从生物神经网络的运作机制得到启发，构建了人工神经网络。其实人类很多的创造都是从自然界模仿得来的，比方飞机和潜艇等。下 图是最经典的MP神经元模型 是1943年由科学家McCulloch和Pitts 提出的，他们将神经元的整个工作过程抽象为下述的模型。