人工智能(Artificial Intelligence),英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。
机器学习(Machine Learning),是指用某些算法指导计算机利用已知数据得出适当的模型,并利用此模型对新的情境给出判断的过程。
深度学习(Deep Learning),其概念源于人工神经网络的研究,它通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示。
在深度学习中,经常会提到卷积的概念。那么,卷积到底是什么呢?实际上,卷积是通过两个函数f和g生成第三个函数的一种数学算子,表征函数f与g经过翻转和平移的重叠部分的面积。可参考下图进行理解。
弄清楚了卷积,我们再来看看卷积神经网络(CNN)。一个标准的卷积神经网络,主要包括:输入层(Input Layer)、卷积层(Convolutional Layer)、池化层(Pooling Layer)、激活层(Activation Layer)、全连接层(Fully Connected Layer)、损失层(Loss Layer)。
下面,我们介绍深度学习中一些常用的层。
卷积层(Convolutional Layer)
卷积层由若干卷积单元组成,每个卷积单元的参数都是通过反向传播算法最佳化得到的。卷积运算的目的是提取输入的不同特征,第一层卷积层可能只能提取一些低级的特征,比如:边缘、线条和角等层级,更多层的网路能从低级特征中迭代提取更复杂的特征。
池化层(Pooling Layer)
池化实际上是一种形式的降采样。有多种不同形式的非线性池化函数,而其中“最大池化(Max pooling)”是最为常见的。它是将输入的图像划分为若干个矩形区域,对每个子区域输出最大值。直觉上,这种机制能够有效的原因在于,在发现一个特征之后,它的精确位置远不及它和其他特征的相对位置的关系重要。池化层会不断地减小数据的空间大小,因此参数的数量和计算量也会下降,这在一定程度上也控制了过拟合。