对数正态,非线性最小二乘

【www.myl5520.com--自我介绍】

最小二乘法及其应用
篇一:对数正态,非线性最小二乘

最小二乘法及其应用

1． 引言

最小二乘法在19世纪初发明后,很快得到欧洲一些国家的天文学家和测

地学家的广泛关注。据不完全统计,自1805年至1864年的60年间,有关最

小二乘法的研究论文达256篇,一些百科全书包括1837年出版的大不列颠百

科全书第7版,亦收入有关方法的介绍。同时,误差的分布是“正态”的,也

立刻得到天文学家的关注及大量经验的支持。如贝塞尔( F. W. Bessel, 1784

—1846)对几百颗星球作了三组观测,并比较了按照正态规律在给定范围内

的理论误差值和实际值,对比表明它们非常接近一致。拉普拉斯在1810年也

给出了正态规律的一个新的理论推导并写入其《分析概论》中。正态分布作

为一种统计模型,在19世纪极为流行,一些学者甚至把19世纪的数理统计学

称为正态分布的统治时代。在其影响下,最小二乘法也脱出测量数据意义之

外而发展成为一个包罗极大,应用及其广泛的统计模型。到20世纪正态小样

本理论充分发展后,高斯研究成果的影响更加显著。最小二乘法不仅是19世

纪最重要的统计方法,而且还可以称为数理统计学之灵魂。相关回归分析、

方差分析和线性模型理论等数理统计学的几大分支都以最小二乘法为理论

基础。正如美国统计学家斯蒂格勒( S. M. Stigler)所说,“最小二乘法之

于数理统计学犹如微积分之于数学”。最小二乘法是参数回归的最基本得方

法所以研究最小二乘法原理及其应用对于统计的学习有很重要的意义。

2. 最小二乘法

所谓最小二乘法就是：选择参数b0,b1,使得全部观测的残差平方和最小.

用数学公式表示为：

minei(YiYi)2(Yib0b1xi)2

为了说明这个方法，先解释一下最小二乘原理，以一元线性回归方程为

例.

YiB0B1xii （一元线性回归方程） 2

由于总体回归方程不能进行参数估计，我们只能对样本回归函数来估计即：

Yib0b1xiei(i1,2...n)

从上面的公式可以看出：残差ei是Yi的真实值与估计值之差，估计总体

回归函数最优方法是，选择B0,B1的估计量b0,b1，使得残差ei尽可能的小.

总之，最小二乘原理就是选择样本回归函数使得所有Y的估计值与真实

值差的平方和为最小，这种确定b0,b1的方法叫做最小二乘法。

最小二乘法是回归分析中的最基本的方法。回归方程一般分为2类，线

性回归方程和非线性回归方程。

2.1 线性回归最小二乘法

最小二乘法是由实验或调查的数据，建立线性型公式的一种常用方法.

在建立线性型公式中，虽然有很多种不同的方法来求样本回归函数（即真实

总体回归函数的估计值），但是在回归分析中最广泛应用的方法是最小二乘

法.

如果变量x和y有精确的线性关系比如说yaxb,那么yiyi即观测

值与回归值是相等的.事实上现实世界中的诸多变量的关系未必都是如此，

由于受诸多随机因数的干扰使得物与物之间没有那种很明确的对应关系.比

如说人的身高和体重就是一个对应，我们都知道长的高的人不一定就重，同

理长的矮的人也不一定就轻.但身高和体重的确存在着一定的关系,而这种

关系并非是yaxb所能确定的.那么我们要寻求身高和体重之间的关系

就需要通过数学的方法.首先调查统计得出数据;其次把数据描绘出来；然后

拟合一条跟已有的图象最接近的曲线,这样就可以相对地将身高和体重之间

的关系表示出来.在处理类似的事情中常常用到最小二乘法. 

2.2 非线性回归最小二乘法

非线性回归的种类很多，常用的有抛物线方程（YabXcX2）、指数方程（Yabx）等。

设已知列表函数yif(xi)(i0,1,...,m)，并且我们想用一个通常的

n(m)次多项式

pnxa0a1x...anxn （1） 去近似它。问题是应该如何选择a0，a1，...，an 使pnx能较好地近似列表函数fx。按最小二乘法，应该选择a0，a1，...，an使得

...，an Sa0，a1， fxipnxi （2）

i0m2

取最小。注意到S是非负的，且是a0，a1，...，an的2次多项式，它必有最小值。求S 对a0，a1，...，an 的偏导数，并令其等于零，得到

yai

i0m0a1xi...anxinxik0 (k0,1,...,n)

进一步，可以将它们写成

yx

iomkiia0xia1xikioiommk1... ,...anxikn (k0,1,niom

引进记号

skxi和ukyixik k

ioiomm

则上述方程组为

s0a0sa11snanu,0sasasau,1021nn11  (3)



a1sna2nunsna0sn1

它的系数行列式是

s0s1

s2



sn1sns2n. s1snsn1Xn1

由si(i0,1,,2n) 的定义及行列式性质，可以断言

Xn121W,,,. (4) 01n(n1)!

此处符号W 表Vandermonde行列式，而是对所有可能的i(i0,1,,n) 求和（每个i 可以取值x0,x1,,xm,并且当ij时ij。由（4）式及

Vandermonde 行列式的性质可知，当x0,x1,,xm互异时，

111

01n

W0,1,,n0212n20.



0n1nnn

从而，Xn100方程组(3)有唯一解a0,a1,,an ,且它们使(2)取极小值如此，我们应用最小二乘法找到了fx的近似多项式pnx.

在利用最小二乘法组成和式(2)时，所有点xi都起到了同样的作用，但是有时依据某种理由认为中的某些项的作用大些，而另外一些作用小些（例如，一些yi是由精度较高的仪器或操作上比较熟练的人员获得的，自然应该予以较大的信任），这在数学上表现为用和

ifxipnxi （5）

i0m2

n

替代和(2)取最小值.i0，且i1,i通常称之为权；而(5)为加权和.

i1

用多项式pnxa0a1xanxn去近似一个给定的列表函数（即给出的一组观测值yifxi时。需要确定的参数是a0,a1,,an;而pnx可以看成是a0,a1,,an的线性函数.但是有时在利用观测或实验数据去确定一个经

验公式时，往往要确定的函数和待定参数之间不具有线性形式的关系.这样问题就变得有些复杂.然而，常常可以通过变量替换使其线性化.

最小二乘法原理是用来求解线性方程组的,非线性方程经线性化后方可应用该原理. 通常在测量中遇到的问题不一定都是线性问题, 必须先把非线性问题线性化, 然后求解. 例如：

（i）有时，我们希望用如下类型的函数：

sptq (6) 去近似一个由一组观测数据（列表）所描绘的函数，其中p 和q 是待定的两个参数.显然s已非p和q的线性函数.怎样线性化呢？为此，我们在(6)式两端取对数，得到

InsInpqInt

记Insy,Inpa0,a1q,xInt,则 (6)式变成

ya0a1x .

这是一个一次多项式，它的系数a0和a1可以用最小二乘法求得.

(ii) 我们经常希望用函数

SAeCt (7) 去近似一个以给定的列表函数，其中A、C是待定的参数.这时，我们可以(7)的两端取对数：

InSInACt

matlab计算多元正态分布函数
篇二:对数正态,非线性最小二乘

函数名 对应分布的概率密度函数

betapdf 贝塔分布的概率密度函数

binopdf 二项分布的概率密度函数

chi2pdf 卡方分布的概率密度函数

exppdf 指数分布的概率密度函数

fpdf f分布的概率密度函数

gampdf 伽玛分布的概率密度函数

geopdf 几何分布的概率密度函数

hygepdf 超几何分布的概率密度函数

normpdf 正态（高斯）分布的概率密度函数 lognpdf 对数正态分布的概率密度函数

nbinpdf 负二项分布的概率密度函数

ncfpdf 非中心f分布的概率密度函数

nctpdf 非中心t分布的概率密度函数

ncx2pdf 非中心卡方分布的概率密度函数 poisspdf 泊松分布的概率密度函数

raylpdf 雷利分布的概率密度函数

tpdf 学生氏t分布的概率密度函数

unidpdf 离散均匀分布的概率密度函数

unifpdf 连续均匀分布的概率密度函数

weibpdf 威布尔分布的概率密度函数

表Ⅰ-2 累加分布函数

函数名 对应分布的累加函数

betacdf 贝塔分布的累加函数

binocdf 二项分布的累加函数

chi2cdf 卡方分布的累加函数

expcdf 指数分布的累加函数

fcdf f分布的累加函数

gamcdf 伽玛分布的累加函数

geocdf 几何分布的累加函数

hygecdf 超几何分布的累加函数

logncdf 对数正态分布的累加函数

nbincdf 负二项分布的累加函数

ncfcdf 非中心f分布的累加函数

nctcdf 非中心t分布的累加函数

ncx2cdf 非中心卡方分布的累加函数

normcdf 正态（高斯）分布的累加函数 poisscdf 泊松分布的累加函数

raylcdf 雷利分布的累加函数

tcdf 学生氏t分布的累加函数

unidcdf 离散均匀分布的累加函数

unifcdf 连续均匀分布的累加函数

weibcdf 威布尔分布的累加函数

表Ⅰ-3 累加分布函数的逆函数对数正态,非线性最小二乘。

函数名 对应分布的累加分布函数逆函数 betainv 贝塔分布的累加分布函数逆函数 binoinv 二项分布的累加分布函数逆函数 chi2inv 卡方分布的累加分布函数逆函数 expinv 指数分布的累加分布函数逆函数 finv f分布的累加分布函数逆函数

gaminv 伽玛分布的累加分布函数逆函数 geoinv 几何分布的累加分布函数逆函数 hygeinv 超几何分布的累加分布函数逆函数 logninv 对数正态分布的累加分布函数逆函数 nbininv 负二项分布的累加分布函数逆函数 ncfinv 非中心f分布的累加分布函数逆函数 nctinv 非中心t分布的累加分布函数逆函数

ncx2inv 非中心卡方分布的累加分布函数逆函数 icdf

norminv 正态（高斯）分布的累加分布函数逆函数 poissinv 泊松分布的累加分布函数逆函数 raylinv 雷利分布的累加分布函数逆函数 tinv 学生氏t分布的累加分布函数逆函数 unidinv 离散均匀分布的累加分布函数逆函数 unifinv 连续均匀分布的累加分布函数逆函数 weibinv 威布尔分布的累加分布函数逆函数

表Ⅰ-4 随机数生成器函数

函 数 对应分布的随机数生成器

betarnd 贝塔分布的随机数生成器

binornd 二项分布的随机数生成器

chi2rnd 卡方分布的随机数生成器

exprnd 指数分布的随机数生成器

frnd f分布的随机数生成器

gamrnd 伽玛分布的随机数生成器

geornd 几何分布的随机数生成器

hygernd 超几何分布的随机数生成器 lognrnd 对数正态分布的随机数生成器 nbinrnd 负二项分布的随机数生成器 ncfrnd 非中心f分布的随机数生成器 nctrnd 非中心t分布的随机数生成器

ncx2rnd 非中心卡方分布的随机数生成器 normrnd 正态（高斯）分布的随机数生成器 poissrnd 泊松分布的随机数生成器 raylrnd 瑞利分布的随机数生成器 trnd 学生氏t分布的随机数生成器 unidrnd 离散均匀分布的随机数生成器 unifrnd 连续均匀分布的随机数生成器 weibrnd 威布尔分布的随机数生成器

表Ⅰ-5 分布函数的统计量函数

函数名 对应分布的统计量

betastat 贝塔分布函数的统计量

binostat 二项分布函数的统计量

chi2stat 卡方分布函数的统计量

expstat 指数分布函数的统计量

fstat f分布函数的统计量

gamstat 伽玛分布函数的统计量

geostat 几何分布函数的统计量

hygestat 超几何分布函数的统计量 lognstat 对数正态分布函数的统计量 nbinstat 负二项分布函数的统计量

ncfstat 非中心f分布函数的统计量 nctstat 非中心t分布函数的统计量

ncx2stat 非中心卡方分布函数的统计量 normstat 正态（高斯）分布函数的统计量 poisstat 泊松分布函数的统计量 续表

函数名 对应分布的统计量

raylstat 瑞利分布函数的统计量 tstat 学生氏t分布函数的统计量 unidstat 离散均匀分布函数的统计量 unifstat 连续均匀分布函数的统计量 weibstat 威布尔分布函数的统计量

表Ⅰ-6 参数估计函数

函 数 名 对应分布的参数估计

betafit 贝塔分布的参数估计

betalike 贝塔对数似然函数的参数估计 binofit 二项分布的参数估计

expfit 指数分布的参数估计

gamfit 伽玛分布的参数估计

gamlike 伽玛似然函数的参数估计 mle 极大似然估计的参数估计

normlike 正态对数似然函数的参数估计 normfit 正态分布的参数估计对数正态,非线性最小二乘。

poissfit 泊松分布的参数估计

计量经济学答案 整理版 (1)
篇三:对数正态,非线性最小二乘

《计量经济学》期末总复习

《计量经济学》期末总复习

一、单项选择题

1．在双对数线性模型lnYi=lnβ0+β1lnXi+ui中,β1的含义是（ D ）

A．Y关于X的增长量

C．Y关于X的边际倾向

2．在二元线性回归模型：Yi01X1i2X2iui中，1表示（ A ）

A．当X2不变、X1变动一个单位时，Y的平均变动

B．当X1不变、X2变动一个单位时，Y的平均变动

C．当X1和X2都保持不变时， Y的平均变动

D．当X1和X2都变动一个单位时， Y的平均变动

3．如果线性回归模型的随机误差项存在异方差，则参数的普通最小二乘估计量是（ A ）

A．无偏的，但方差不是最小的

C．无偏的，且方差最小

4．DW检验法适用于检验（ B ）

A．异方差

C．多重共线性

5．如果X为随机解释变量，Xi与随机误差项ui相关，即有Cov(Xi，ui)≠0，则普通最小二

ˆ是（ B ） 乘估计B．Y关于X的发展速度 D．Y关于X的弹性 B．有偏的，且方差不是最小的 D．有偏的，但方差仍为最小 B．序列相关 D．设定误差

A．有偏的、一致的

C．无偏的、一致的

B．有偏的、非一致的 D．无偏的、非一致的

6．设某商品需求模型为Yt=β0+β1Xt+ ut，其中Y是商品的需求量，X是商品价格，为了考虑全年4个季节变动的影响，假设模型中引入了4个虚拟变量，则会产生的问题为

（ D ）

A．异方差性

C．不完全的多重共线性

7．当截距和斜率同时变动模型Yi=α0+α1D+β1Xi+β2 (DXi)+ui退化为截距变动模型时，能通过统计检验的是（ C ）

A．α1≠0，β2≠0

C．α1≠0，β2=0

8．若随着解释变量的变动，被解释变量的变动存在两个转折点，即有三种变动模式，则在分段线性回归模型中应引入虚拟变量的个数为（ B ）

A．1个

C．3个

9．对于无限分布滞后模型Yt=α+β0Xt+β1Xt-1+β2Xt-2+…+ut，无法用最小二乘法估计其参数是因为（ B ）

A．参数有无限多个

C．存在严重的多重共线性

10．使用多项式方法估计有限分布滞后模型Yt=α+β0Xt+β1Xt-1+…+βkXt-k+ut时，多项 式βi=α0+α1i+α2i2+…+αmim的阶数m必须（ A ）

A．小于k

C．等于k

11．对于无限分布滞后模型Yt=α+β0Xt+β1Xt-1+β2Xt-2+…+ut，Koyck假定βk=β0λk，0<λ<l，则长期影响乘数为（ A ）

A．0 1

C．1－λ

12．对自回归模型进行自相关检验时，若直接使用DW检验，则DW值趋于（ A ）

A．0

C．2

B．1 D．4 1 1i 1B．序列相关 D．完全的多重共线性 B．α1=0，β2=0 D．α1=0，β2≠0 B．2个 D．4个 B．没有足够的自由度 D．存在序列相关 B．小于等于k D．大于k B．D．

13．对于Koyck变换模型Yt=α(1-λ)+ β０Xt+λYt-1+Vt，其中Vt=ut-λut-1，则可用作Yt-1的工具变量为（ B ）

A．Xt

C．Yt B．Xt-1 D．Vt

14．使用工具变量法估计恰好识别的方程时，下列选项中有关工具变量的表述错误的是 ．．

（ A ）

A．工具变量可选用模型中任意变量，但必须与结构方程中随机误差项不相关

B．工具变量必须与将要替代的内生解释变量高度相关

C．工具变量与所要估计的结构方程中的前定变量之间的相关性必须很弱，以避免多重共 线性

D．若引入多个工具变量，则要求这些工具变量之间不存在严重的多重共线性

15．根据实际样本资料建立的回归模型是（ C ）

A．理论模型

C．样本回归模型

16．下列选项中，不属于生产函数f(L，K)的性质是（ D ） ．．．

A．f(0，K)=f(L，0)=0

C．边际生产力递减

17．关于经济预测模型，下面说法中错误的是（ C ） ．．

A．经济预测模型要求模型有较高的预测精度

B．经济预测模型比较注重对历史数据的拟合优度

C．经济预测模型比较注重宏观经济总体运行结构的分析与模拟

D．经济预测模型不太注重对经济活动行为的描述

18．关于宏观经济计量模型中的季度模型，下列表述中错误的是（ D ） ．．

A．季度模型以季度数据为样本

C．季度模型主要用于季度预测

19．宏观经济模型的导向是（ A ）

A．由总供给与总需求的矛盾决定的

B．由国家的经济发展水平决定的

C．由总供给决定的

B．回归模型 D．实际模型 B．ff0,0 LKD．投入要素之间的替代弹性小于零 B．季度模型一般规模较大 D．季度模型注重长期行为的描述

D．由总需求决定的

20．X与Y的样本回归直线为（ D ）

A．Yi=β0十β1Xi+ui

C．E(Yi)=β0十β1Xi

21．在线性回归模型中，若解释变量X1和X2的观测值成比例，即X1i=KX2i，其中K为常数，则表明模型中存在（ C ）

A，方差非齐性

C．多重共线性

22．回归分析中，用来说明拟合优度的统计量为（ C ）

A．相关系数

C．判定系数

23．若某一正常商品的市场需求曲线向下倾斜，可以断定（ B ）

A．它具有不变的价格弹性

C．随价格上升需求量增加

24．在判定系数定义中，ESS表示（ B ）

A．∑(Yi—)

C．∑(Yi-Y)2

25．用于检验序列相关的DW统计量的取值范围是（ D ）

A．O≤DW≤1

C．-2≤DW≤2

26．误差变量模型是指（ A ）

A．模型中包含有观测误差的解释变量

C．用误差作解释变量对数正态,非线性最小二乘。

B．Yi=01Xiui D．Yi=01Xi B．序列相关 D．设定误差 B．回归系数 D．标准差 B．随价格下降需求量增加 D．需求无弹性 2B．∑(YiY)2 D．∑(Yi—Y) B．-1≤DW≤1 D．O≤DW≤4 B．用误差作被解释变量 D．模型中包含有观测误差的被解释变量

28．将社会经济现象中质的因素引入线性模型（ C ）

A．只影响模型的截距

B．只影响模型的斜率

C．在很多情况下，不仅影响模型截距，还同时会改变模型的斜率

D．既不影响模型截距，也不改变模型的斜率

29．时间序列资料中，大多存在序列相关问题，对于分布滞后模型，这种序列相关问题就转化为（ B ）

A．异方差问题

C．随机解释变量问题

30．根据判定系数R2与F统计量的关系可知，当R2=1时有（ D ）

A．F=-1

C．F=1

31．发达市场经济国家宏观经济计量模型的核心部分包括总需求、总供给和（ C ）

A．建模时所依据的经济理论

B．总收入

C．关于总需求，总生产和总收入的恒等关系

D．总投资

33．用模型描述现实经济系统的原则是（ B ）

A．以理论分析作先导，解释变量应包括所有解释变量

B．以理论分析作先导，模型规模大小要适度

C．模型规模越大越好，这样更切合实际情况

D．模型规模大小要适度，结构尽可能复杂

34．下列模型中E(Yi)是参数1的线性函数，并且是解释变量Xi的非线性函数的是（ B ）

22Xi A．E(Yi)=01B．多重共线性问题 D．设定误差问题 B．F=0 D．F=∞ B．E(Yi)=01Xi

D．E(Yi)=01 1XiC．E(Yi)=01

1 Xi

MAELAB工具箱函数汇总
篇四:对数正态,非线性最小二乘

附录Ⅰ 工具箱函数汇总

Ⅰ.1 统计工具箱函数

表Ⅰ-1 概率密度函数

表Ⅰ-2 累加分布函数

表Ⅰ-3 累加分布函数的逆函数

表Ⅰ-4 随机数生成器函数

表Ⅰ-5 分布函数的统计量函数

表Ⅰ-6 参数估计函数

表Ⅰ-7 统计量描述函数

表Ⅰ-8 统计图形函数

表Ⅰ-9 统计过程控制函数

本文来源：http://www.myl5520.com/fanwendaquan/102056.html