深度卷积神经网络

神经网络具有优异的特征学习能力,学习得到的特征对数据有更本质的刻画,从而有利于可视化或分类;?深度神经网络在训练上的难度,可以通过“逐层初始化”(Layer-wise Pre-training)来有效克服。Р两个重要的信息:Р人工神经网络发展历程Р在语音识别取得重大突破Р百度: deep speechР2011年以来,错误率降低2030%!Р2012年11月,微软在天津的一次活动上公开演示了一个全自动的同声传译系统,讲演者用英文演讲,后台的计算机一气呵成自动完成语音识别、英中机器翻译,以及中文语音合成,效果非常流畅。Р人工神经网络发展历程РGoogle Brain项目(纽约时报2012年6月报道)Р2011年开始,Google Brain 项目采用16000个CPU Core的并行计算平台训练“深层神经网络”,在图像识别等领域获取巨大成功!Р吴恩达Р人工神经网络发展历程РAlphaGo Master 3:0 柯洁Р2017年1月РAlphaGo Fan 5:0 樊麾Р2015年10月РAlphaGo Lee 4:1 李世石Р2016年3月Р100:0战胜Lee版本,89:11战胜Master版本!РAlphaGo ZeroР2017年10月РAlphaZero:最大特点是无需人类棋谱,仅利用围棋规则РAlpha-FanРAlphaGo-LeeРAlphaMasterРAlphaZeroР人工神经网络发展历程Р为什么有效?浅层神经网络可以近似任意函数,为何多层??深层网络结构中,高层可以综合应用低层信息。?低层关注“局部”,高层关注“全局”、更具有语义化信息。?为自适应地学习非线性处理过程提供了一种可能的简洁、普适的结构模型。?特征提取与分类器可以一起学习。Р人工神经网络发展历程Р发展基础:Р数据爆炸:图像数据、文本数据、语音数据、社交网络数据、科学计算等Р计算性能大幅提高