128《统计案例》知识点总结

统计案例

一.回归分析的基本思想及其初步应用:

㈠回归分析的定义:我们知道,函数关系是一种确定性关系,而相关关系是一种非确定性关系。回归分析就是对具有相关关系的两个变量进行统计分析的一种常用关系。

㈡对具有相关关系的两个变量进行统计分析的步骤为: 1)画散点图;

2)求回归直线方程;

3)用回归直线方程进行预报

㈢样本中心:对于一组具有线性相关关系的数据

??

??

?????

-=--=---=∧∧====∧∑∑∑∑x b y a x n x y

x n y x x x y y x x b n

i i n

i i i n i i n i i i ,)())((1

221

121其中∑=?=n i i x n x 11,∑=?=n

i i

y n

y 1

1

称为样本点的中心,回归直线

过样本点的中心),(y x 。回归直线方程为:

㈣线性回归模型:由于两个变量组成的所有样本点不共线,而只是散步在一条直线的附近,所以常用线性回归

模型e a x b y ++=.来表示。这里的a b ;为模型的未知参数,e 是y 与bx+a 之间的误差。 1)通常e 为随机变量,称为随机误差。它的均值,0)

(=e E 方差2)(σ=e D .

与函数关系不同,在回归模型中,y 的值由x 和随机因素e 共同确定,即x 只能解释部分y 的变化,因此我们把x

称为解释变量,把y 称为预报变量。 2)线性回归模型的完整表达式为:

随机误差e 的方差

越小,用bx+a 预报真实值y 的精度越高。随机误差是引起预报值与真实值y 之间

存在误差的原因之一,其大小取决于随机误差的方差。

另一方面,和为斜率和截距的估计值,它们与真实值a 和b 之间也存在误差,这种误差是引起预报值与

真实值y 之间存在误差的另一个原因。

㈤残差:在线性回归模型中,e 是用a x b +.预报真实值y 时产生的随机误差,它是一个不可观测的量。实际应用中,我们用回归方程

a x

b y

?.??+=中的y ?来估计a bx +,由于随机误差 ).(a x b y e +-=,所以称

是随机误差e 的估计量。对于样本点)...

,)(,(2211y x y x ),(n n y x

而言,它们的随机误差为;...2,1,n i a bx y e i i i

=--=

随机误差估计值为;...2,1,????n i a x b y y y e

i

i i i i =--=-= i e

?称为相应于点的残差。注意:与偏差

y y i -区别开来。

㈥残差图:

可以通过残差发现原始数据中的可疑数据,从而判断所建立模型的拟合效果。可以利用图形来分析残差

特性,作图时以残差为纵坐标,横坐标为样本编号(或身高数据或体重数据)这样作出的图形叫做残差图。 1)注意检查残差较大的样本点,确认采集该样本点过程中是否有人为错误.如果数据采集有错误,应予以纠正,再重新利用线性回归模型拟合数据;如果没有错误,则需寻找其它原因。

2)残差图中,当残差点比较均匀地落在水平的带状区域中时,就说明选用的模型比较合适。这样的带状区域的宽度越窄,说明模型拟合精度越高,回归方程的预报精度越高。

3)另外,还可以用

∑∑==---

=n

i i n

i i i y y y y R 1

2

122)()?(1来刻画回归效果。对于已经获取的样本数据,2

R 表达式

中分母“偏差平方和”

∑=-n

i i

y y

1

2)(是一个确定的数。

因此

越大,意味着残差平方和∑=-n

i i

i y y 1

2)?(越小,即模型拟合效果越好;越小,残差平方和越大,即

模型拟合效果越差。在线性回归模型中,表示解释变量对于预报变量变化的贡献率,越接近于1,表示回归

的效果越好。

是常用的选用模型的指标之一,在实际应用中,应该尽量选择较大的回归模型。

㈦一般地,建立回归模型的基本步骤:

⑴确定研究对象,明确哪个变量是解释变量,哪个变量是预报变量y ;

⑵画出解释变量x 和预报变量y 的散点图,观察它们之间的关系(如是否存在线性关系等) ⑶由经验确定回归方程的类型(如我们观察到数据呈线性关系,则选用线性回归方程)

⑷按一定规则(如最小二乘法)估计回归方程中的参数;

⑸得出结果后分析残差图是否有异常(如个别数据对应残差过大,残差呈现不随机的规律性等)。若存在异常,则检查数据是否有误,或模型是否合适等。

㈧回归模型的适用范围:

⑴回归方程只适用于我们所研究的样本的总体; ⑵我们所建立的回归方程一般都有时间性; ⑶样本取值的范围会影响回归方程的适用范围;

⑷不能期望回归方程得到的预报值就是预报变量的精确值。

㈨一般地,比较两个函数模型的拟合程度的步骤如下:

⑴分别建立对应于两个模型的回归方程与,

即模型1???==+=12)(,0)(),(σe D e E e a x f y 和模型2?

??==+=22)(,0)(),(σωωωD E b x g y 其中

和分别是参数a 和b 的

估计值

⑵分别计算两个模型的R 2值 ⑶若

,则模型1比模型2拟合效果更好;若

,则模型2比模型1拟合效果更好。

㈩相关系数与相关性检验:

散点图虽然能帮助我们观察两个变量之间的线性相关关系,但在实际应用中很难说这些点是不是分布在某条直线附近。鉴于此,我们必须对x 与y 作线性相关检验,简称相关性检验。 对于变量x 与y 随机抽取到的n 对数据)...,)(,(2211y x y x ),(n n y x ,样本的相关系数为:

)

()(.)

)(())(()

)((1

2

2

1

2

2

1

1

1

2

2

1∑∑∑∑∑∑======-?--=

-?---=

n

i i n

i i n

i i

i n i n

i i i n

i i i

y n y x n x y

x n y

x y y x x y y x x

r

相关系数公式的作用在于:对一组数据之间的线性相关程度作出定量的分析,而不是仅凭画出散点图,肉眼直观地从散点图上的形状粗浅地得出数据之间的线性相关程度。 1)相关系数r 具有下列性质:

⑴;1≤r ⑵r 的越接近于1,线性相关程度越强;⑶r 的越接近于0,线性相关程度越弱 2)相关性检验的步骤:

.1step 作统计假设:x 与y 不具有线性相关关系;

.2step 根据小概率0.05与2-n 在附表中查出r 的一个临界值05.0r ; .3step 根据样本相关系数公式计算出r 的值;

.4step 做统计推断:如果05.0r r >,这是表明有%95的把握认为:x 与y 具有线性相关关系;

如果05.0r r ≤,这是表明假设成立,认为:x 与y 不具有线性相关关系,所求的回归直线方程是毫无意义的。

二.独立性检验的基本思想及其初步应用:

㈠不同的“值”表示个体所属不同类别,这样的变量叫做分类变量。

㈡列联表:列出两个分类变量的频数表称为列联表。常用等高条形图展示列联表数据的频率特征。

㈢两个事件独立的含义:如果事件A 与B 的发生彼此互不影响,或者影响可以忽略不计,就可以认为事件A 与B 是相互独立的。把相互独立事件A 与B 同时发生,记做“AB ”,那么其概率为:

)().()(B P A P AB P =。

还有其它的公式:)().()(B P A P B A P =;)().()(B P A P B A P =; )().()(B P A P AB P =

㈣独立性检验:

利用随机变量K 2来判断“两个分类变量有关系”的方法称为独立性检验。 反证法原理与独立性检验原理的比较 反证法原理 在假设H 0下,如果推出一个矛盾,就证明了H 0不成立

独立性检验原理

在假设H 0下,如果出现一个与H 0相矛盾的小概率事件,就推断H 0不成立,且该推断犯错误的概率不超过这个小概率

(事件B )Y 的取值y 1

(事件B )Y 的取值y 2

总计 (事件A )X 的取值x 1 a b a+b (事件A )X 的取值x 2

c d c+d 总计

a+c

b+d

a+b+c+d

假设H 0: X 与Y 没有关系,即X 与Y 独立。 则有P(XY)=P(X)P(Y) ; 根据频率近似于概率,故有

化简得

因此,越小,两者关系越弱;越大,两者关系越强;

基于以上分析,构造随机变量

,其中

为样本容量

K 2的值越小则关系越小,K 2的值越大则关系越大。(实际应用中通常要求a,b,c,d 都不小于5)

计算K 2的观测值k 并与K 2作比较。 统计学研究发现,在H 0成立的情况下,

即在H 0成立的情况下,K 2的观测值超过

6.635的概率非常小,近似为0.01,是一个小概率事件。 若观测值k 大于6.635,则有理由判定H 0不成立,即“X 与Y 有关系”。但这种判断会犯错误,犯错误的概率不会超过0.01 .

*(这里概率计算的前提是H 0成立,即H 0:两个分类变量没有关系) 若要推断的论述为H 1:“X 与Y 有关系”。可以通过频率直观地判断两个条件概率P(Y=y 1|X=x 1)和P(Y=y 1|X=x 2)是否相等。如果判断它们相等,就意味着X 和Y 没有关系;否则就认为它们有关系。由上表可知,在X=x 1的情

况下,Y=y 1的频率为 ;在X=x 2的情况下,Y=y 1的频率为 。因此,如果通过直接计算或等高条形图发

现

和

相差很大,就判断两个分类变量之间有关系。

利用独立性检验原理可以进一步给出推断“两个分类变量有关系”犯错误的概率。具体做法是:

⑴根据实际问题的需要确定容许推断“两个分类变量有关系”犯错误概率的上界α ,然后查下表确定临界值0k

0.50 0.40 0.25 0.15 0.10 0.05 0.025 0.010 0.005 0.001

k 0

0.455 0.708 1.323 2.072 2.706 3.841 5.024 6.635 7.879 10.828

2⑶如果K 2的观测值k 大于判断规则的临界值k 0,即k ≥k 0,就推断“X 与Y 有关系”,这种推断犯错误的概率不超过α ;否则,就认为在犯错误的概率不超过α的前提下不能推断“X 与Y 有关系”,或者在样本数据中没有发现足够证据支持结论“X 与Y 有关系”。

按照上述规则,把“两个分类变量之间没有关系”错误地判断为“两个分类变量之间有关系”的概率不超过. 定义:

则

若“X 和Y 没有关系”则有

有

可推出

即可取

于是有以下判断规则:

当W 的观测值时,就判断“X 和Y 有关系” ;否则,判断“X 和Y 没有关系”。这里为正实数,且满

足在“X 和Y 没有关系”的前提下

㈤22?列联表:

假设有两个分类变量X 和2列联表为：

y 1 y 2 总计 x 1 a b a+b x 2 c d c+d 总计 a+c b+d a+b+c+d

若要推断的论述为H 1：,并且能较精确地给出这种判断的可靠程度.

具体的做法是,由表中的数据算出随机变量2

K 的值2

2

()()()()()

n ad bc K a b c d a c b d -=++++,其中

n a b c d =+++为样本容量,K 2的值越大,说明“X 与Y 有关系”成立的可能性越大.

随机变量2K 越大,说明两个分类变量,关系越强;反之,越弱。

㈥2x (卡方)统计量:

假设有两个分类变量X 和Y,它们的值域分另为{x 1, x 2}和{y 1, y 2},其样本频数列联表为:

若要推断的论述为H 1:“X 与Y 有关系”,可以利用独立性检验来考察两个变量是否有关系,并且能较精确地给出这种判断的可靠程度。具体的做法是,由表中的数据算出随机变量K 2的值（即K 的平方）

K 2 = n (ad - bc) 2 / [(a+b)(c+d)(a+c)(b+d)],其中n=a+b+c+d 为样本容量,K 2的值越大,说明“X 与Y 有关系”成立的可能性越大。

K 2≤3.841时,X 与Y 无关; K 2>3.841时,X 与Y 有95%可能性有关;K 2>6.635时X 与Y 有99%可能性有关

高中数学选修2-3第三章统计案例知识点必记

1.什么是回归分析,它的步骤是什么？

答:回归分析是对具有相关关系的两个变量进行统计分析的一种常用方法。 其步骤:收集数据→作散点图→求回归直线方程→利用方程进行预报. 2.线性回归模型与一次函数有什么不同？

答:一次函数模型是线性回归模型的特殊形式,线性回归模型是一次函数模型的一般形式. 3.什么是残差？

答:样本值与回归值的差叫残差,即i i i y

y e ??-=. 4.什么是残差分析？

答:通过残差来判断模型拟合的效果,判断原始数据中是否存在可疑数据,这方面的分析工作称为残差分析.

5.如何建立残差图？

答:以残差为横坐标,以样本编号,或身高数据,或体重估计值等为横坐标,作出的图形称为残差图. 观察残差图,如果残差点比较均匀地落在水平的带状区域中,说明选用的模型比较合适,这样的带状区域的宽度越窄,模型拟合精度越高,回归方程的预报精度越高. 6.建立回归模型的基本步骤是什么？

答:⑴确定研究对象,明确哪个变量是解释变量,哪个变量是预报变量;

⑵画出确定好的解释变量和预报变量的散点图,观察它们之间关系(如是否存在线性关系等); ⑶由经验确定回归方程类型(如我们观察到数据呈线性关系,则选用线性回归方程y ＝bx ＋a); ⑷按一定规则估计回归方程中的参数(如最小二乘法);

⑸得出结果后分析残差图是否有异常(个别数据对应残差过大,或残差呈现不随机的规律性等等),若存在异常,则检查数据是否有误,或模型是否合适等。 7.什么是总偏差平方和？

答:所有单个样本值与样本均值差的平方和,即21)(y y SST n

i i ∑=-=

8.什么是残差平方和？

答:回归值与样本值差的平方和,即21)?(i n

i i y

y SSE -=∑= 9.什么是回归平方和？

答:相应回归值与样本均值差的平方和,即21)?(y y

SSR n

i i -=∑=. 10.什么是相关指数？

答:∑∑==---

=n

i i n

i i

i

y y y y R 1

2

1

2

2

)

()

?(1

11.非线性回归模型的方程是什么？bx a

y e

+=

12.如何根据观测数据判断两变量的相关性？

答:①根据观测数据计算由K 2＝n （ad －bc ）

2

（a ＋b ）（c ＋d ）（a ＋c ）（b ＋d ）

给出的检验随机变量K 2

的值k ,其值越大,说明“X 与Y 有关系”成立的可能性越大.

②当得到的观测数据d c b a ,,,都不小于5时,可以通过查阅下表来确定断言“X 与Y 有关系”的

说明:当观测数据d c b a ,,,中有小于5时,需采用很复杂的精确的检验方法. 13.常用临界值有哪些？

得到2K 的观察值k 常与以下几个临界值加以比较:

如果 2.706k >,就有0090的把握因为两分类变量X 和Y 是有关系; 如果 3.841k >,就有0095的把握因为两分类变量X 和Y 是有关系; 如果 6.635k >,就有0099的把握因为两分类变量X 和Y 是有关系; 如果低于 2.706k ≤,就认为没有充分的证据说明变量X 和Y 是有关系．