线性回归

线性回归 : 回归分析中,变量与因变量存在线性关系

函数表达式 :

损失函数计算公式:

假设x为变量,y为对应的结果,y’为模型输出结果

目标变为:y’尽可能接近y (希望损失函数尽可能小)

m样本数

梯度下降法

目的寻找极小值(为步长)

=>

就是对求偏导

偏导符号是

求出收敛的 a与b

求导公式

一、基本初等函数的导数公式

函数 导数 条件
(常数) 为常数
为任意实数
双曲函数
双曲函数

二、四则运算法则

运算 导数公式
加法
减法
乘法
除法
常数倍

三、链式法则(复合函数求导)

核心公式

常见复合形式

复合函数 导数

四、高阶导数

名称 记号 定义
一阶导数
二阶导数
阶导数

五、隐函数求导

若方程 确定 ,则:

六、参数方程求导

,则:

二阶导:

七、偏导数(多元函数)

对于

名称 记号 含义
的偏导 当常数,对 求导
的偏导 当常数,对 求导
二阶纯偏导
二阶混合偏导

克莱罗定理:若混合偏导连续,则

八、精华速记表

原函数 导数