人工智能的数学本质
人工智能本质上是一个智能函数
x是问题
p是策略
$f_{\theta}$是智能函数,其参数可以通过$\theta$调节,而参数的调整会使得模型的性能发生变化。这也就是我们称$f_{\theta}$为智能函数的原因。$f_{\theta}$通常是复合函数,也就是;其中i=${\theta_{1},\theta_{2},…}$称为序.
常用模型:
智能函数中嵌入了大量的基元函数,而其中最重要的又是 神经元函数。最重要的部分是求两个向量之间的相关性,而作为判断依据的权重向量可以通过学习按照需求来进行相应调整的。这就是其两个方面的智能。
神经网络是由神经元层层排布构成,神经元越多此模型的功能越强。
常用的基元函数
线性变换
离散卷积
池化操作
polling函数,特征抽取
Sigmoid函数
$y=\frac{1}{(1+e^{-a})}$
ReLU函数
SoftMax函数
智能函数的参数
机器学习的种类
目前最流行的学习范式:深度学习
总结
参数学习是核心:
- 解析法
- 迭代法
- 向量内积是核心操作
深度学习:
- 深层参数结构由于扁平参数结构
- 特征多粒度逐级抽取
- 简化的基元函数便于学习
- 简单函数深层堆叠获得复杂函数
- 学习效果突破句法,学习算法本质未变