《人工神经网络深度学习课件.ppt》由会员分享，可在线阅读，更多相关《人工神经网络深度学习课件.ppt（56页珍藏版）》请在三一办公上搜索。
1、人工神经网络_深度学习,11、不为五斗米折腰。12、芳菊开林耀，青松冠岩列。怀此贞秀姿，卓为霜下杰。13、归去来兮，田蜀将芜胡不归。14、酒能祛百虑，菊为制颓龄。15、春蚕收长丝，秋熟靡王税。,人工神经网络_深度学习人工神经网络_深度学习11、不为五斗米折腰。12、芳菊开林耀，青松冠岩列。怀此贞秀姿，卓为霜下杰。13、归去来兮，田蜀将芜胡不归。14、酒能祛百虑，菊为制颓龄。15、春蚕收长丝，秋熟靡王税。人工神经网络及其应用第七讲深度学习主讲人:方涛第七讲深度学习主讲内容7.1研究背景7.2从BP网络看深度学习7.3几种典型的深度学习模型7.4开源深度学习框架7.5深度学习的未来,人工神经网络及
2、其应用第七讲深度学习主讲人:方涛,第七讲深度学习主讲内容7.1研究背景7.2从BP网络看深度学习7.3几种典型的深度学习模型7.4开源深度学习框架7.5深度学习的未来,571研究背景2016年-人工智能(AI)莫基60周年约翰麦卡锡(1927-201)sP之父一不走寻常路的常识逻辑学家1956年,约翰麦卡锡召集了一次会议来讨论人工智能末来的发展方向,开启了A的发展21世纪初,深度学习”的出现,A研究获得了长足的进步没有大数据,没有“大计算”,就没有人工智能的今天!,571研究背景Marvin Minsky人工智能之父和框架理论的创立者MIT ALLab创始人之1970年获得图灵奖美国工程院和美
3、国科学院院士1969:Perceptron(感知器)-神经网络的局限性(深度学习的前身在近60年的人工智能历史中,马文明斯基一直是一位闪耀着耀眼光彩的杰出的人工智能权威,是当之无愧的人工智能父。(李德毅院士)1927-2016明斯基在1950年进入普林斯顿大学攻读数学系的博士硏究生学位,比我晚一年。我们很快意识到,我们两人都对人王智能很感兴趣。事实上,当时明斯基已经对如何实现人工智能颇有想法了,这一点在之后他设计和建造的世界上第一个神经网络模拟器 Snare上得到了证实John McCarthy人工智能先驱,LISP语言之父,图灵奖获得者),57I研究背景2016年阿尔法狗(Alpha Go)
4、4:1大胜围棋9段李世石高手,AI重大历史时刻主要设计者-位于伦敦 Google旗下 DeepMind公司大卫席尔瓦(David Silver)-剑桥大学计算:机科学学士,顾士,加拿大间尔伯塔大学计算机科学博士黄士杰(Aia huang),台澚交通大学计算机科学学一士,台湾师范大学计算机科学硕士和博士,加拿大可尔伯塔大学计算机科学博士后“监督学习的策略网络(Policy Network)通过13层全连接网络,反复训练围棋棋盘布局,调整参数,以最佳概率预测落子选择(Move picker),如何下棋子“价值网络(Value network)给定棋子位置,预测每一个棋手赢棋的可能,就是计算局面,5
5、7I研究背景专注于神经网络几十年1985年,提出 Boltzmann机1986年,提出受限Bo|tzmann机、BP算法2006年,提出神经网络进行降维开启了深度学习时代,并在随后的 mageNet图片识别的比赛,取得了非常有说服力的结果一Geoffrey-.Hinton(74%-85%),震撼了学术界加拿大多伦多大学教授Q Hinton,G and salakhutdinov,R(2006).Reducing the dimensionality of datawith neural networks.Science,3B3(9 Hinton,G.E(2002).Training produ
6、cts of experts by minimizing contrastivedivergence Neural Comp.,14(8):1771-1800Q Hinton,G.E,Dayan,P,Frey,B.J.,and Neal,R.M.(1995).The wake-sleep._algorithm for unsupervised neural-networks.Science,268:1158-1160Q Hinton,G.E and Sejnowski,T.E.(1986).Learning and relearning in Boltzmannmachines.In Para
7、llel Distributed Processing,volume I,pages 282-317.MIT Presso Rumelhart,Hinton,Williams,Learning Representations by Back-propagatingerrors,Nature,1986,323(6088):533-536,57I研究背景2012年6月,纽约时报披露了Andrew nGoogle brain.项目斯坦福大学教授用16000个 CPU Corel的并行计算平台训练一种称为“深度大规模计算机系统方神经网络”(DNN,Deep Neural Networks)的机器学面的
8、世界顶尖专家习模型(内部共有10亿个节点)-effDean在语音识别和图像识别等领获得了巨大的成功,57I研究背景2012年11月,微软公开演示全自动同声传译系统深度学习讲演者用英文演讲,后台的计算机一气呵成自动完成语音识别、英中机器翻译和中文语音合成,效果非常流畅一,57I研究背景百度2013年1月,百度创始人兼CEO李彦宏高调宣布成立“深度学习研究所(IDL,Institue of Deep Learning,57I研究背景机器学习解决目标识别与分类问题的思路Low-levelPre-Featureterencesensingprocessingextract.-FeatureselectionE predictionrecognition三个主要组成部分FeatureLearningRepresentationalgorithmInputE.g,SIFT,HoG,etc.中间的特征提取部分将很大程度上决定最终的效果,如何提取特征?“巧妇难为无米之炊,END,16、业余生活要有意义，不要越轨。华盛顿17、一个人即使已登上顶峰，也仍要自强不息。罗素贝克18、最大的挑战和突破在于用人，而用人最大的突破在于信任人。马云19、自己活着，就是为了使别人过得更美好。雷锋20、要掌握书，莫被书掌握；要为生而读，莫为读而生。布尔沃,
