深度学习技术的未来发展趋势

更新时间:2020-04-06 17:15:58点击:1095 人工智能

深度学习技术发展到今天,离不开两方面技术的进步:层次结构概念创建和让电脑自己提取特征。层次结构,是人类培养电脑对事物理解的一种方式,即让电脑在学习一些简单的概念之后,进而能够理解复杂的概念。
深度学习技术受到了前所未有的重视,并有了更广泛的应用。因而,谁都看好深度学习技术的发展前景,深度学习未来的发展趋势是什么?

1.神经网络框架将会变得越来越复杂而精密,神经网络是模拟人脑神经元功能,通过建模和连接,来研制一种具有学习、联想、记忆和模式识别等智能信息处理功能的人工系统。它的一个重要特性是,能够从环境中学习,并把学习的结果存储在网络的连接中。

人们把学习集中的每个输入加到神经网络中,并做出神经网络输出的分类,待全部学习集运行完成,神经网络就能总结出自己的想法,目前,在感知、语言翻译等方面,最先进的神经网络框架正在发展,不再局限于前庭式框架或卷积式框架,并正在混合匹配如自定义目标函数,多皮层柱和卷积等神经网络技术。


2.所有最酷的系统都会使用LSTM,LSTM,指的是一种时间递归神经网络,由Hocheriter和Schmidhuber于1997年提出。LSTM是一种RNN特殊的类型,具有独特的设计结构,可以学习长期依赖信息,适合处理时间序列中间隔和延迟非常长的重要事件,在未来,大部分最先进的系统都将LSTM纳入系统中,以使系统具有捕捉重复模式的记忆力。


3.“注意力模型”在升温,人们都每天都会对感知到的外界信息进行选择,以选择出最重要的信息。同人的这种机能一样,计算机视觉计算系统面对大量需要处理的信息,如何忽略无用或次要的信息,让视觉感知变得高效可靠,从而满足某些应用中的实时性要求,就成为一项必须解决的技术。

注意力模型就会成为这项技术的切入点。简单来说,注意力模型可解理为,计算机视觉系统基于时域的显著性目标检测模型,即用智能的方式确定系统在场景图中的研究顺序,其所采用的一种有效方法是,让系统模仿人的视觉感知系统的功能和行为。


4.计算机视觉和自然语言处理,会变得几乎不可分离,计算机视觉和自然语言处理都是人工智的分支,这两个领域的深度学习正在融合。卷积神经网络最初应用在电脑视觉中现在开始应用于一些自然语言处理。LSTM第一次做出成果是在自然语言处理中,现在被纳入计算机视觉神经网络任务中。另外,电脑视觉和自然语言处理的交叉部分有一些嵌入技术,也成为热门应用。


5.符号微分法越来越重要,在神经网络框架和目标函数变为可以自定的同时,它们本身也变得越来越复杂,人为手动提取的难度越来越大,也容易出错。而采用符号微分法,在构建框架和目标函数的训练中,能够在众多碎片中找出正确的微分,从而保证误差梯度可以反向传播。


6.深度学习和强化学习的交叉在继续,在深度学习和强化学习领域,出现了一些让人振奋的事情。如端对端机器人就是通过使用深度学习和强化学习,让原始传感器数据直接过渡到实际动作执行器上。这种交叉,已经让过去仅仅是分类发展到对在方程中加入计划和行动的理解。


7.神经网络和产品应用携手同行,神经网络的方法在不断创新,而且这些方法也在快速扩展到实际应用产品中。目前,尽管只有谷歌这样的公司能做到这一点,但就行业来说,就是一种发展趋势——任何技术的进步,最终都会应用和服务于实践和生活。


推荐阅读