深度学习RNN
2022/6/30 来源:不详神经网络(NN)具有魔法的宝盒,只要给一个初始条件,就能够给出想要的结果,示意图如下:
深度学习:
深度学习是机器学习的子集,使用神经网络来进行学习和预测,基于大数据的可用性和算力,广受欢迎
神经网络:
神经网络是一个相互连接的神经元可以理解为函数拟合器,每个神经元都是一个小规模拟合器,f(·)=g(W*X),W是权重向量,X是输入向量,g(·)是非线性变换,学习训练的过程就是一个寻找最佳权重向量,来拟合函数,使得已知与未知的差异尽可能小的过程
函数:
函数就是从输入空间到输出空间的映射,例如:sin(x)正弦曲线是从角空间(-°~°)映射到实数空间(-1~1)
深度学习与插值:
我们通过插值使得函数尽可能拟合数据,但是会导致此数据拟合完美彼数据失去泛化能力,也就是过拟合的问题
深度学习需求:
模型尽可能泛化能力要好(正则化处理)
选择损失函数,使得已知与未知之间的区别能够被感知
梯度下降(可发展空间大时,快点跑,快到目的地时,慢点跑)
梯度消失(激活函数)
数据量大(要学习的函数复杂,需要多次试错)
算力(数据量大,对计算效率要求高:快速、准确)
参考文章: