机器学习
·2024-07-26#机器学习打卡 2 Day
1.今天按照自己找的python课程补充了相关函数调用部分的知识。复习了函数调用打印数据时候的一些知识。
比如:当函数def Funna(max1,max2,max3)存在多个参数的时候。且当前函数存在return返回值。我想要在函数外部打印这个函数内部参数时,需要设置一个自变量a,构造a=Funna,print(a)a可以接收到Funna函数赋值过来的参数。且a是元组类型输出的对应数据。当你的函数忘记写return时,默认返回到函数体调用的点返回的值是None。
2.找资料去了解反向传播是在做什么,梯度是在算什么。
今天理解的点:
2.1.反向传播类似一个递归查询的过程,左边存在一个输入的参数,右边存在一个输出参数。
从左往右的过程里一直有一个未知值无法得到解释需要一直存入一个未知参数保存得到答案后才能一层一层的返回上层保存的未知数的值。这个迭代过程从左向右求解占用内存的比例过大,而且考虑如果迭代的层级更多消耗的损失就难以估计。
但是反向求解的时候直接从输出的目标往回进行回溯带入,可以最大程度减小计算量。所以采用反向计算的模式。
2.2.这个计算模式就是反向传播。反向传播的计算值是两个方向的偏微分(另x为一个方向的固定值时,算出除了y变得动外的的偏导向量公式,另y为一个方向的固定值时,算出除x变动外的偏导向量公式。然后x方向的偏导向量公式和y方向的偏导向量公式,通过向量加法法则或者矩阵加法法则得到的公式值就代表了梯度公式),也就是反向传播算的是梯度这个事。
(未完待续·········)
2
0
分享
操作
评论
相关内容
0个评论
全部评论
点击登录,快来和大家讨论吧~
表情
图片
暂无评论
