卷积神经网络:过滤器为啥被叫作“核”
过滤器(Filter)被称为“核(Kernel)” 是因为,它在数学和信号处理的背景下,本质上是一种核函数(Kernel Function),用于局部操作。
1. 源自数学领域
- 在数学和信号处理中,卷积核(Convolution Kernel) 是卷积操作的核心组件。
- 卷积核是一个小矩阵,它在卷积计算中与输入数据的某个局部区域进行点积运算。
- 在信号处理中,核函数(Kernel Function)常用于描述如何将输入信号变换为输出信号。
因此,“核”一词最初来源于卷积的数学定义,用来指代执行卷积操作的权重矩阵。
2. 核心的概念
“核”具有“核心”或“关键”的含义:
- 在卷积神经网络(CNN)中,卷积核(过滤器)是提取特征的关键部分。
- 它定义了如何在输入数据的局部区域中加权、汇总并生成新的特征。
- 由于这些小的核矩阵能够捕获数据的模式和特征,它们被称为“核心”。
3. 卷积核的物理意义
- 卷积核可以看作一个模板,用来探测输入数据中的特定模式(例如边缘、角点、纹理等)。
- 这种探测机制类似于信号处理中用滤波器提取某些频率的信号,因此在计算机视觉中,过滤器也被称为“卷积核”或“核矩阵”。
4. 多学科的交叉
- 在机器学习中,核函数(Kernel Function)也用于核方法(如支持向量机中的核技巧)来映射特征空间。
- 在卷积神经网络中,核(Kernel)专指用于局部卷积操作的小矩阵,强调它是计算的局部关键成分。
5. 命名沿袭
随着卷积操作在神经网络中的广泛应用,原本在信号处理和数学中的“卷积核”概念被直接沿用。为了统一术语和表达,过滤器(Filter)和核(Kernel)逐渐成为互换使用的术语,但二者在应用上的重点略有不同:
- 过滤器:强调其“过滤”和“筛选”特定信息的功能。
- 核:强调其在卷积操作中的核心地位。
总结
过滤器被称为“核”是因为它源于数学卷积操作中的“卷积核”概念,表示局部计算的核心组件。虽然在神经网络中可以将“过滤器”和“核”视为同义词,但“核”更强调其数学和理论背景,而“过滤器”更注重其在特征提取中的功能。