什么是线性回归法?

来源:学生作业帮助网 编辑:作业帮 时间:2024/04/29 04:04:30

什么是线性回归法?
什么是线性回归法?

什么是线性回归法?
如果在回归分析中,只包括一个自变量和一个因变量,且二者的关系可用一条直线近似表示,这种回归分析称为一元线性回归分析.如果回归分析中包括两个或两个以上的自变量,且因变量和自变量之间是线性关系,则称为多元线性回归分析.详细原理这里就不细说了,具体参照线性回归.

设训练数据为(Xi,Yi),i=1,2,...,n.
回归模型为 Y = aX + b + W.
a,b为待定系数。w为模型误差。
Yi = aXi + b + Wi,
Wi = Yi - aXi - b, i = 1,2,...,n
一般的回归准则是使得
[W1]^2 + [W2]^2 + ... + [Wn]^2 = [Y1-aX1-b]^2 ...

全部展开

设训练数据为(Xi,Yi),i=1,2,...,n.
回归模型为 Y = aX + b + W.
a,b为待定系数。w为模型误差。
Yi = aXi + b + Wi,
Wi = Yi - aXi - b, i = 1,2,...,n
一般的回归准则是使得
[W1]^2 + [W2]^2 + ... + [Wn]^2 = [Y1-aX1-b]^2 + [Y2-aX2-b]^2 + ... + [Yn-aXn-b]^2
= a^2{[X1]^2 + ... + [Xn]^2} + nb^2 + 2ab[X1 + ... + Xn] - 2a[Y1X1 + ... + YnXn] - 2b[Y1 + ... + Yn] + [Y1]^2 + ... + [Yn]^2
达到最小。

f(a,b) = [W1]^2 + [W2]^2 + ... + [Wn]^2

df/da = 2a{[X1]^2 + ... + [Xn]^2} + 2b[X1 + ... + Xn] - 2[Y1X1 + ... + YnXn]
df/db = 2nb + 2a[X1 + ... + Xn] - 2[Y1 + ... + Yn]

df/da = df/db = 0可以解出a,b。
线性回归法的误差 一般定义为Wi的平方的平均值的平方根【均方根误差】,
或者Wi的绝对值的平均值,或Wi的绝对值的最大值,等等
详细见百度百科

收起

或者说定义是什么?怎么定义? 设训练数据为(Xi,Yi),i=1,2,线性回归法的误差 一般定义为Wi的平方的平均值的平方根【均方根误差】,