概论与统计课件第七章参数估计.pptx

《概论与统计课件第七章参数估计.pptx》由会员分享，可在线阅读，更多相关《概论与统计课件第七章参数估计.pptx（70页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、 引引 言言 上一章，我们介绍了总体、样本、简单随机样本、上一章，我们介绍了总体、样本、简单随机样本、统计量和抽样分布的概念，介绍了统计中常用的三大分统计量和抽样分布的概念，介绍了统计中常用的三大分布，给出了几个重要的抽样分布定理布，给出了几个重要的抽样分布定理.它们是进一步学它们是进一步学习统计推断的基础习统计推断的基础.参数估参数估计问题计问题假设检假设检验问题验问题点估计点估计区间估计区间估计统计统计推断推断 的的基本基本问题问题第七章第七章 参数估计参数估计 参数的点估计参数的点估计 点估计的优良性准则点估计的优良性准则 区间估计区间估计 在实际问题中在实际问题中,我们根据问题本身的专

2、业知识或以往的经验或我们根据问题本身的专业知识或以往的经验或适当的统计方法适当的统计方法,有时可以有时可以判断总体分布的类型判断总体分布的类型.总体分布的参数总体分布的参数往往是未知的往往是未知的,需要通过样本来估计需要通过样本来估计.例如例如 (1)(1)为了研究人们的市场消费行为为了研究人们的市场消费行为,我们要先搞清楚人们我们要先搞清楚人们的收入状况的收入状况.假设某城市人均年收入假设某城市人均年收入X X N(N(,2 2).).但参数但参数 和和 2 2 的具的具体值并不知道体值并不知道,需要通过样本来估计需要通过样本来估计.(2)(2)假定某城市在单位时间假定某城市在单位时间(譬如

3、一个月譬如一个月)内交通事故发生内交通事故发生次数次数 X X P(P().).参数参数 未知未知,需要从样本来估计需要从样本来估计.通过样本来估计总体的参数通过样本来估计总体的参数,称为参数估计称为参数估计,它是统计推断它是统计推断的一种重要形式的一种重要形式.参数估计参数估计点估计点估计区间估计区间估计（假定身高服从正态分布（假定身高服从正态分布N(，0.12）设这设这5个数是个数是:1.65 1.67 1.68 1.78 1.69 估计估计 为为1.68，这是这是点估计点估计.这是这是区间估计区间估计.估计估计在区间在区间 1.57,1.84 内，内，例如我们要估计某队男生的平均身高例如

4、我们要估计某队男生的平均身高.现从该总体选取容量为现从该总体选取容量为5的样本，我们的任务的样本，我们的任务是要根据选出的样本（是要根据选出的样本（5个数）求出总体均值个数）求出总体均值 的的估计估计.而全部信息就由这而全部信息就由这5个数组成个数组成.从总体从总体 X 中抽取样本中抽取样本(X1,X2,X n)构造构造合适的合适的统计量统计量 =T(X1,X2,X n)参参数数的的 估估计计量量 将样本观察值将样本观察值(x1,x2,x n)代入估计量代入估计量 计算出估计量的观察值计算出估计量的观察值 =T(x1,x2,x n)参参数数的的 估估计计值值 或构造或构造 1 =T1(X1,X

5、2,X n)和和 2 =T2(X1,X2,X n)(10,其中其中 与与 2未知未知,样本样本(X1,X2,X n)来自总体来自总体 X，求求 与与 2的的矩估计量。矩估计量。解解：无论总体的分布形式如何，总体均值无论总体的分布形式如何，总体均值 和方差和方差2 2的的矩估计量矩估计量分别分别为样本均值和样本二阶中心矩。为样本均值和样本二阶中心矩。矩法的矩法的优点优点是简单易行是简单易行,并不需要事先知道总体并不需要事先知道总体是什么分布是什么分布.缺缺点点是是，当当总总体体类类型型已已知知时时，没没有有充充分分利利用用分分布提供的信息布提供的信息.一般场合下一般场合下,矩估计量矩估计量不具有

6、唯一性不具有唯一性.其主要原因在于建立矩法方程时，选取哪些总其主要原因在于建立矩法方程时，选取哪些总体矩用相应样本矩代替带有一定的体矩用相应样本矩代替带有一定的随意性随意性.1.2 极大似然估计法极大似然估计法极大似然估计极大似然估计作为一种点估计方法最初是由作为一种点估计方法最初是由 德国数学家高斯德国数学家高斯(Gauss)于于1821年提出，英国统计年提出，英国统计 学家费歇尔学家费歇尔(R.A.Fisher)在在1922年作了进一步发展年作了进一步发展 使之成为数理统计中最重要应用最广泛的方法之一使之成为数理统计中最重要应用最广泛的方法之一.GaussFisher 极大似然估计法极大似

7、然估计法是建立在是建立在极大似然极大似然原理原理的的基础上的一个统计方法。基础上的一个统计方法。极大似然原理的直观想法是：极大似然原理的直观想法是：一次试验就出现一次试验就出现的事件有较大的概率的事件有较大的概率.即：一个试验如有若干个即：一个试验如有若干个 可能结果可能结果 ,若在一次试验中，结果若在一次试验中，结果 出现出现,则认为则认为 出现的概率最大出现的概率最大.例如例如:有两外形相同的箱子有两外形相同的箱子,各装各装100个球个球 一箱一箱 99个白球个白球 1 个黑球个黑球 一箱一箱 1 个白球个白球 99个黑球个黑球现从两箱中任取一箱现从两箱中任取一箱,并从箱中任取一球并从箱中

8、任取一球,结果所取得的球是白球结果所取得的球是白球.问问:所取的球来自哪一箱？所取的球来自哪一箱？答答:第一箱第一箱.假定一个盒中黑球和白球两种球的数目之比假定一个盒中黑球和白球两种球的数目之比 为为 3:1，但不知哪种球多，但不知哪种球多，表示从盒中任取一球表示从盒中任取一球 是黑球的概率，那么是黑球的概率，那么 或或 ,现在有放回地现在有放回地 从盒中抽从盒中抽3个球，试根据样本中的黑球数个球，试根据样本中的黑球数 来估计来估计 参数参数 .解解随机变量随机变量 ，即，即 例例例例估计估计 只需在只需在 和和 之间作出选择之间作出选择.计算这两种情况下计算这两种情况下 的分布律：的分布律：

9、的估计的估计 27/6427/649/641/641/649/6427/6427/643210,根据极大似然原理，根据极大似然原理，应该寻找使事件发生的概率最大的参数值作应该寻找使事件发生的概率最大的参数值作为未知参数的估计值。为未知参数的估计值。1.1.似然函数似然函数进行一次具体的抽样之后，进行一次具体的抽样之后，(X1,X2,X n)得到一组观察值得到一组观察值(x1,x2,x n)。是一组确定的数，把它们代入上式，则。是一组确定的数，把它们代入上式，则 设总体分布设总体分布(以离散型为例以离散型为例)为为P(X=x)=P(x,1,2,k),（1,2,k)未知，未知，样本样本(X1,X2

10、,X n)来自总体来自总体 X，则则样本样本(X1,X2,X n)的的概率分布函数概率分布函数为：为：仅为仅为（1,2,k)的函数。把它记作的函数。把它记作 并并称称为参数（为参数（1,2,k)的的似然函数似然函数。进行一次具体的抽样之后，进行一次具体的抽样之后，(X1,X2,X n)得到一组观察值得到一组观察值(x1,x2,x n)。是一组确定的数，把它们代入上式，则。是一组确定的数，把它们代入上式，则若总体若总体X为为连续性随机变量连续性随机变量，其密度函数为分布为，其密度函数为分布为f(x,1,2,k),（1,2,k)未知，未知，样本样本(X1,X2,X n)来自总体来自总体 X，则则样

11、本样本(X1,X2,X n)的的密度函数密度函数为：为：仅为仅为（1,2,k)的函数。把它记作的函数。把它记作 并并称称为参数（为参数（1,2,k)的的似然函数似然函数。可见，可见，似然函数实质上是样本的概率分布或密度函数。似然函数实质上是样本的概率分布或密度函数。2.2.极大似然法极大似然法当给定一组样本值时，当给定一组样本值时，似然函数似然函数L(1,2,k)为参数为参数(1,2,k)的函数，极大似然估计法的思想就是：的函数，极大似然估计法的思想就是：选择使选择使似然函数似然函数L(1,2,k)达到最大值的点达到最大值的点作为作为为参数为参数(1,2,k)的估计。的估计。定义定义定义定义1

12、.11.1 若存在样本值若存在样本值(x1,x2,x n)的函数的函数使使似然函数似然函数L(1,2,k)达到最大值，即达到最大值，即则称则称为参数为参数 i的的极大似然估计值极大似然估计值；称相应的统计量称相应的统计量为为 i的的极大似然估计量极大似然估计量；极大似然估计值和极大似然估计值和极大似然估计量统称为极大似然估计量统称为极大似然估计。极大似然估计。3、极大似然估计（离散型总体）的步骤 极大似然估计（连续型总体）的步骤 下面举例说明如何求参数的极大似然估计。下面举例说明如何求参数的极大似然估计。试求试求参数参数p的极大似然估计量的极大似然估计量 故似然函数为故似然函数为例例1：试求试

13、求参数参数p的极大似然估计量的极大似然估计量 故似然函数为故似然函数为例例1：故似然函数为故似然函数为例例2：似然函数为：似然函数为：例例3：例例4：例例5：例例6：极大似然法求估计量的步骤：极大似然法求估计量的步骤：(一般情况下一般情况下)说明：说明：若似然方程（组）无解，或似然函数不可导，若似然方程（组）无解，或似然函数不可导，此法失效，改用其它方法。此法失效，改用其它方法。例例7：方程组无解方程组无解 点估计点估计矩估计法矩估计法基本步骤基本步骤极大似然估计法极大似然估计法基本步骤基本步骤 第二节第二节 点估计的优良性准则点估计的优良性准则 我们知道，一个未知参数的估计量可能不止我们知道

14、，一个未知参数的估计量可能不止一个。究竟采用哪个为好呢？这就涉及到用什么一个。究竟采用哪个为好呢？这就涉及到用什么标准来评价估计量的问题。我们介绍三个常用的标准来评价估计量的问题。我们介绍三个常用的标准：标准：1）无偏性；）无偏性；2）有效性；）有效性；3）一致性。）一致性。2.1 无偏性无偏性 根据样本推得的估计值与真值可能不同，根据样本推得的估计值与真值可能不同，然而，如果有一系列然而，如果有一系列抽样构成各个估计，很合理地会要求这些估计的期望值与未知参数抽样构成各个估计，很合理地会要求这些估计的期望值与未知参数的真值相等，它的直观意义是样本估计量的数值在参数的真值周围的真值相等，它的直观

15、意义是样本估计量的数值在参数的真值周围摆动，而无误差，这就是估计量的无偏性。摆动，而无误差，这就是估计量的无偏性。定义定义2.1：设总体：设总体X的分布中含有未知参数的分布中含有未知参数 ，为参数为参数空间，样本空间，样本(X1,X2,X n)来自来自 X，若，若 例例1：设总体：设总体X 有期望有期望 EX=与方差与方差 DX=2，与与 2 都未知。都未知。样本样本(X1,X2,X n)来自来自 X，试证：，试证：(1)样本均值样本均值 是总体均值是总体均值 的无偏估计的无偏估计；(2)样本方差样本方差S2是是 2的无偏估计；的无偏估计；(3)样本标准差样本标准差S不是标准差不是标准差 的无

16、偏估计；的无偏估计；(4)B2不是不是 2的无偏估计。的无偏估计。证证：由定理知：由定理知：(1)(2)ES2=2 这个结论与总体的分布类型没有关系。只要总体期望和方差存在这个结论与总体的分布类型没有关系。只要总体期望和方差存在，样本均值样本均值总总是总体期望的无偏估计，是总体期望的无偏估计，样本方差总是总体方差的无偏估计样本方差总是总体方差的无偏估计 (3)由由DS=ES2-(ES)2=2-(ES)2，得，得 所以，样本标准差所以，样本标准差S不是标准差不是标准差 的无偏估计。的无偏估计。(4)因因 所以，二阶样本中心矩所以，二阶样本中心矩B2不是不是总体总体方差方差 2的无偏估计。因此，通

17、常把的无偏估计。因此，通常把B2的分母修正为的分母修正为n-1获得样本方差获得样本方差S2作为总体作为总体方差方差 2的估计。的估计。例例2：设总体：设总体X 的期望值的期望值 EX=未知，方差未知，方差 DX有限有限，样本样本(X1,X2,X n)来自来自 X，试证：，试证：所以，未知参数所以，未知参数 的无偏估计量往往有许多个，的无偏估计量往往有许多个，在这些估计量中，当然是取值对于在这些估计量中，当然是取值对于 的离散程度越小的的离散程度越小的 越好，即方差越小的越好。越好，即方差越小的越好。2.2 无偏估计的有效性无偏估计的有效性 定义定义2.2：设总体：设总体X的分布中含有未知参数的

18、分布中含有未知参数 ，为参数为参数空间，样本空间，样本(X1,X2,X n)来自来自 X，解解：DX1=DX=2 例例：设总体：设总体X 有期望有期望 EX=与方差与方差 DX=2，与与 2 都未知。都未知。样本样本(X1,X2,X n)来自来自 X，比较，比较 的两个的两个无偏估计无偏估计X1 和和 X 的有的有 效性。效性。例例：条件同上，试证：条件同上，试证X在在 的所有线性的所有线性无偏估计中方差最小。无偏估计中方差最小。解解：所谓线性估计是指：所谓线性估计是指 为样本的线性函数，为样本的线性函数，2.3 一致性（相合性）一致性（相合性）例：例：样本均值样本均值 是总体均值是总体均值的

19、一致估计值的一致估计值.结论结论1 1：样本方差样本方差 是总体方差是总体方差 的一致估计值的一致估计值.结论结论2 2：要求：要求：当样本容量当样本容量 n 无限增大时，估计量能在某种意义下充分接无限增大时，估计量能在某种意义下充分接近被估计的参数。近被估计的参数。引言引言引言引言 前面，我们讨论了参数点估计前面，我们讨论了参数点估计.它是用样本算它是用样本算得的一个值去估计未知参数得的一个值去估计未知参数.但是，点估计值仅仅但是，点估计值仅仅是未知参数的一个是未知参数的一个近似值近似值，它没有反映出这个近似，它没有反映出这个近似值的值的误差范围误差范围，使用起来把握不大，使用起来把握不大.

20、区间估计区间估计正好正好弥补了点估计的这个缺陷弥补了点估计的这个缺陷.6.3 6.3 区间估计区间估计 譬如，在估计湖中鱼数的问题中，若我们譬如，在估计湖中鱼数的问题中，若我们根据一个实际样本，得到鱼数根据一个实际样本，得到鱼数 N 的极大似然估的极大似然估计为计为1000条条.若我们能给出一个区间，在此区间内我们若我们能给出一个区间，在此区间内我们合理地相信合理地相信 N 的真值位于其中的真值位于其中.这样对鱼数的这样对鱼数的估计就有把握多了估计就有把握多了.实际上，实际上，N的真值可能大于的真值可能大于1000条，也可条，也可能小于能小于1000条条.也就是说，我们希望确定一个区间，使我们

21、能也就是说，我们希望确定一个区间，使我们能以比较高的以比较高的可靠程度可靠程度相信它包含真参数值相信它包含真参数值.湖中鱼数的真值湖中鱼数的真值 这里所说的这里所说的“可靠程度可靠程度”是用概率来度量的是用概率来度量的，称为置信度或置信水平称为置信度或置信水平.习惯上把置信水平记作习惯上把置信水平记作，这里这里 是一个是一个 很小的正数很小的正数.一、区间估计的基本概念一、区间估计的基本概念 分别称为置信下限和置信上限分别称为置信下限和置信上限.的可靠性。的可靠性。置信区间表示估计结果的精确性，置信区间表示估计结果的精确性，而置信概率则表示这一结果而置信概率则表示这一结果通常，置信系数（可靠性

22、）采用通常，置信系数（可靠性）采用 0.95,0.99,0.90 等值。等值。未知参数未知参数的置信区间，称为参数的置信区间，称为参数的的区间估计区间估计。对于已给的置信概率对于已给的置信概率1-1-，根据样本观测值来确定根据样本观测值来确定 一旦有了样本，就把一旦有了样本，就把 估计在区间估计在区间内内.这里有两个要求这里有两个要求:对参数对参数 作区间估计，就是要设法找出作区间估计，就是要设法找出两个只依赖于样本的界限两个只依赖于样本的界限(构造统计量构造统计量)(X1,Xn)(X1,Xn)可见，可见，区间估计区间估计:1.1.可靠度：可靠度：要求区间以很大的可能性包含要求区间以很大的可能

23、性包含 即：即：2.2.精度：精度：估计的精度要尽可能高估计的精度要尽可能高,即即 区间的长度要尽可能小区间的长度要尽可能小,或或 能体现此要求的其它准则。能体现此要求的其它准则。在保证可靠度的条件下，尽量提高精度在保证可靠度的条件下，尽量提高精度 可靠度和精度要统筹兼顾可靠度和精度要统筹兼顾 在求置信区间时，要查表求分位点在求置信区间时，要查表求分位点.二、置信区间的求法二、置信区间的求法教材已经给出了概率分布的上侧分位数（分位点）教材已经给出了概率分布的上侧分位数（分位点）的定义，为便于应用，这里我们再简要介绍一下的定义，为便于应用，这里我们再简要介绍一下.设设0 1,对随机变量对随机变量

24、X，称满足，称满足的点的点 为为X的概率分布的上的概率分布的上 分位数分位数.标准正态分布标准正态分布的临界值（的临界值（分位点）分位点）O u y y=(x)u1-2分布的临界值（分布的临界值（分位点）分位点）例：例：t 分布的临界值（分布的临界值（分位点）分位点）例：例：1.397例：例：枢轴变量法求置信区间枢轴变量法求置信区间(1)找与找与 有关的统计量有关的统计量 T(T(一般一般T T是是 的点估计的点估计)(2)找一个函数找一个函数 I=I(T,I=I(T,),I 的分布的分布F与与 无关无关(I I(T,T,)为枢轴变量为枢轴变量)(3)对给定的对给定的 1-，找到，找到F 的上

25、的上分位点分位点 和和三、正态总体未知参数的区间估计（枢轴变量法）三、正态总体未知参数的区间估计（枢轴变量法）1、均值、均值 的的区间估计区间估计 (1)2已知已知 设总体设总体X N(,2)，样本，样本(X1,X2,Xn)来自总体来自总体X。所以所以 的置信系数为的置信系数为1-的置信区间：的置信区间：枢轴变量为枢轴变量为O/2U/2/2-U/2(2)2未知未知所以所以 的置信系数为的置信系数为1-的置信区间：的置信区间：枢轴变量为枢轴变量为例例1：从从大批灯泡中随机地抽取大批灯泡中随机地抽取5个个,测得寿命为测得寿命为(单位单位:小时小时)：1650,1700,1680,1820,1800

26、，假定灯泡寿命，假定灯泡寿命XN(,9)，求这批灯泡平均寿命的区间估计求这批灯泡平均寿命的区间估计（=0.05）。解：解：方差方差 2=9已知，利用公式：已知，利用公式：由由 =0.05，查标准正态分布表得，查标准正态分布表得 u0.025=1.96。因因 n=5，=3，x=1730，所以，得所以，得 的区间估计为的区间估计为 1727.37,1732.63。P(1727.37 1732.63)=0.95注注例例2：从从大批灯泡中随机地抽取大批灯泡中随机地抽取5个个,测得寿命为测得寿命为(单位单位:小时小时)：1650,1700,1680,1820,1800，假定灯泡寿命，假定灯泡寿命XN(,

27、2)，求这批灯泡平均寿命的区间估计求这批灯泡平均寿命的区间估计（=0.05）。由由n=5，查，查 t 分布表得分布表得 t0.025(4)=2.776。x=1730，S=75.50。所以，得所以，得 的区间估计为的区间估计为 1636.27,1823.73。解：解：方差方差 2未知，利用公式：未知，利用公式：2、方差的、方差的区间估计区间估计 (1)已知已知 2 的置信系数为的置信系数为1-的区间估计的区间估计为：为：枢轴变量为枢轴变量为 (2)未知未知 2 的置信系数为的置信系数为1-的区间估计的区间估计为：为：枢轴变量为枢轴变量为查查 2 分布表得分布表得 20.025(5)=12.833

28、，20.975(5)=0.831。所以，得方差的区间估计为所以，得方差的区间估计为 0.055,0.842。例例3：对某塔的高度进行了对某塔的高度进行了 5 次测量，数据（单位：米）如下：次测量，数据（单位：米）如下：90.5,90.4,89.7,89.6,90.2，设测量数据服从正态分布，设测量数据服从正态分布，求方差的区间估计（求方差的区间估计（=0.05）。(1)假设塔的真实高度为假设塔的真实高度为 90米。米。(2)假设塔的真实高度未知。假设塔的真实高度未知。解：解：(1)利用公式：利用公式：计算得：计算得：(2)利用公式：利用公式：计算得：计算得：查查 2分布表得分布表得 20.02

29、5(4)=11.143，20.975(4)=0.484。所以，得方差的区间估计为所以，得方差的区间估计为 0.060,1.380。1、均值、均值差差 1-2的的区间估计区间估计 (1)12,22都都已知已知 令枢轴变量为令枢轴变量为6.3.36.3.3、两个正态总体均值差和方差比的区间估计、两个正态总体均值差和方差比的区间估计 设样本设样本(X1,X2,Xn1)来自正态总体来自正态总体XN(1,12),(Y1,Y2,Y n2)来自正态总体来自正态总体YN(2,22)，并假定，并假定X 与与 Y 相互独立相互独立 分别是两样本的均值和方差分别是两样本的均值和方差,1-是是给定的置信系数给定的置信

30、系数所以所以 1-2的置信系数为的置信系数为1-的置信区间：的置信区间：O/2U/2/2-U/2解：解：由由 =0.1，查标准正态分布表得，查标准正态分布表得 U/2=U0.05=1.645因因 n1=10，n2=12,12=25,22=36，所以，所以，例例1 1：设自总体：设自总体XN(1,25)得到一容量为得到一容量为1010的样本，其样本均值的样本，其样本均值 ，自总体，自总体YN(1,36)得到一容量为得到一容量为1212的样本，的样本，其样本均值其样本均值 ,并且两样本并且两样本 相互独立相互独立,求求 1-2的置信区间（的置信区间（=0.1=0.1）。）。得得 1 1-2 2的置

31、信区间为的置信区间为 -8.06,-0.34-8.06,-0.34。(2)12,=22=2 ,但但 2未知未知 令枢轴变量为令枢轴变量为 定理（定理（5.105.10）所以所以 1-2的置信系数为的置信系数为1-的置信区间：的置信区间：解：由抽样的随机性可推知解：由抽样的随机性可推知样本灯泡相互独立，又因为它们样本灯泡相互独立，又因为它们的的总体方差相等，所以由总体方差相等，所以由得得 1 1-2 2的置信区间为的置信区间为 -36.53,76.53-36.53,76.53。例例2 2：为比较：为比较A,BA,B两种型号灯泡的寿命，两种型号灯泡的寿命，随机抽取随机抽取A A型灯泡型灯泡5 5只

32、，只，测得测得 ，标准差，标准差SA=28小时，小时，随机抽取随机抽取B B型灯泡型灯泡5 5只，只，测得测得 ，标准差，标准差SB=32小时，设总体都是正态的，小时，设总体都是正态的，并且由生产过程知它们的方差相等并且由生产过程知它们的方差相等.求求 1-2 的置信区间（的置信区间（=0.01）因因 n1=5，n2=7,SA=28,SB=32,而而 =0.01，查，查t-分布表得分布表得 t/2(10)=t0.005(10)=3.169,，所以所以令枢轴变量为令枢轴变量为2 2、两个正态总体方差比、两个正态总体方差比 的区间估计的区间估计所以方差比所以方差比 的置信系数为的置信系数为1-1-

33、的置信区间为的置信区间为 例例3 3：两：两正态总体正态总体XN(1,12)和和YN(2,22)的参数均未知，依次取的参数均未知，依次取容量为容量为25 25，1515的两独立样本，测得的两独立样本，测得 ，样本方差，样本方差依次依次为为6.38 6.38，5.15 5.15，求两个正态总体方差比，求两个正态总体方差比 的置信区间的置信区间（=0.1）所以方差比所以方差比 的置信系数为的置信系数为1-1-的置信区间为的置信区间为 0.527 0.527，2.6392.639解：因解：因 n1=25，n2=15,S12/S22=6.38/5.15=1.239,查查F-分布表得分布表得 F0.05(24,14)=2.35，F0.95(24，14)=1/F0.05(14,24)=1/2.13,所以由所以由