提示：本文共有 12634 个字，阅读大概需要 26 分钟。
，每局每个人??获胜的概率??都是 时赌博因故??停止，问此时注金?? 应如何分配??给A和B才??算公平？此问题文字??上最 早见于?? 1494 分析.由于对“公平分配”一词的意义??没有一个公??认的正确理??解，在早期文献??中 出现过关??于此问题的??种种不同的??解法，如今看来都?? 不正确.例如，帕西奥利本?? 人提出按的?? 比例分配.塔泰格利亚??则在155?? 6年怀疑能??找到一种数??学解法的 可??能性，他认为这是??一个应由法??官来解决的?? 问题，但他也提出??了如下的解?? 在1603??年根据某种??理由，提出 例分配.卡丹诺在其??1539 年??的著作中，通过 较深的??推理提出了?? 一种解法：记 比分给A??和B.他这个解法??如今看来虽??然仍不正确??，但有一个重??要之点，即他注 意到??起作用的是?? 这个问题的??症结在于：它关乎各人??在当时状况??下的期望值?? .从以上这些??五花 八门的?? 解法中，似乎可以认?? 为，这些作者已??多少意识到?? 这一点，但未能明确??期 望与概率?? 的关系.而与此处有?? 关的是：假定赌博继??续进行下去??，各人最终取?? 假如A获胜??，他在这局中?? .因此按二项??分布，A 取胜的概?? 取胜的??概率为 是A、B在当时状??态下的期望??值.这个解是巴?? 斯噶（B.Pasca?? 1623～1662）在1654?? 年提出的.他用了两种??方法，其一是递推??公式法，其二是用“巴斯 噶三角??”（即杨辉三角?? ）.1710 年??，蒙特姆特在??一封信中给??出了我们在??前面写出 的??解法，且不必规定??二人的获胜??概率相同.后来他又把??此问题推广??到多个赌徒?? 的情形. 分赌本问题??在概率史上??起的作用，在于通过对??这个在当时??来说较复杂??的问 索，对数学期望??及其与概率??的关系，有了启示.有的解法，特别是巴斯?? 噶的解法，使用或隐含??了若干直到??现在还广为??使用的计算??概率的工具?? .如组合 法、递推公式、条件概率和??全概率公式?? 等.可以说，通过对这个??问题的研究??，概 率计算从??初期简单计??数步入较为??精细的阶段?? deFerma?? t，1601～1665的名字，对学习过中??学以上数 学??的人来说，想必不陌生?? .巴斯噶三角??，在我国称杨??辉三角，中学教科书??中已 有提及?? .至于费尔马??，因其“费尔马大定?? 理”不存在整数?? xyz0和整数 于近年得到??证明，名声更远播??数学圈子内??外.费尔马在数?? 学上的名声??主要因其数??论方面的工?? 作，其在概率史??上占到一席??地位，多少有些 54年7～10 这几封信全??是讨论具体??的赌博问题??.与前人一样??，他们用计算??等可能的有??利 与不利情??况数，作为计算“机遇数”即概率的方?? 法他们没有使??用概率这个?? 称.与前人相比??，他们在方法??的精细和复??杂性方面大??大前进了.他们广泛使??用 组合工具??和递推公式??，初等概率一??些基本规律??也都用上了?? .他们引进了?? 赌博的 值value?? 的概念，值等于赌注??乘以获胜概?? 年后，惠更斯改“值”为“期望”expec?? tatio?? n这就是概率??论的最重要?? 概念之一——数学期望的形成??和命名 过程?? .前文已指出??：此概念在更??早的作者中??已酝酿了一?? 段时间.这些通信中??讨论 的一个??重要问题之??一是分赌本??问题，还讨论了更??复杂的输光??问题：甲、乙二人 各有?? 赌本a 为正整数??，每局输赢1?? 元，要计算各人??输光的概率?? .这个 问题拿??现在的标准??看也有相当?? 的难度.由此也可看??出这组通信??达到的水平??及其 在概率??论发展史上??的重要性.有的学者，如丹麦概率??学者哈尔德?? ，认为巴、费2 人在1?? 654 年的??这些信件奠??定了概率论?? 的基础.这话有相当??的道理，但也应指出 ??，这些通信的??内容是讨论??具体问题，没有明确陈??述并提炼出??概率运算的??原则性 内容?? .例如，他们视为当??然地使用了??概率加法和?? 乘法定理.但未将其作??为一般原 凸现出来.促使巴、费2 人进行??这段通信的??，是一个名叫??德梅尔的人??，他曾向巴斯??噶请 教几个??有关赌博的?? 问题.1564 7月29日??巴斯噶首先??给费尔马写??信，转达了这 些??问题之一，请费尔马解?? 决.所提问题并??不难，但不知为何??巴斯噶未亲?? 自回答： 将两颗骰子?? 掷24次，至少掷出一?? 个“双6”的机遇小于?? ）.但从另一方??面看，投两个骰子??只有36 种??等可能结果?? ，而24 占了?? 36的 ，这似乎有矛??盾，如何解释.现今学过初??等概率论的??读者都必能??毫 无困难地??回答这个问?? 巴、费通信中涉??及的有关分??赌本问题的??解法，包含了一些??在当时看很??先进且直到??现在仍广为??使用的想法?? 和技巧. 惠更斯是一??个有多方面??成就的、在当时声名??与牛顿相若??的大科学家??.人们 熟知他??的贡献之一??是单摆周期?? 公式 .他在概率论??的早期发展??史上也占有??重要地位，其主要著作??《机遇的规律?? 》出版于16 57年，出版后得到??学术界的高??度重视，在欧洲作为??概率论的标??准教本长达?? 50年之久?? 该著作的写??作方式不大??像一本书，而更像一篇??论文.他从关于公?? 平赌博 fair game的值的一条??公理出发，推出关于“期望”（这是他首先??引进的术语 ）的3条定理??.基于这些定??理并利用递??推法等工具??，惠更斯解决??了当时感兴??趣的 一些机??遇博弈问题?? .最后，他提出了5?? 个问题，对其中的3?? 个给出了答??案但未加证 条定理加??11个问题??，被称为惠更?? 斯的14 命题.前3条如下?? 命题1若某人在赌??博中以等概?? 命题2若某人在赌??博中以等概?? 命题3若某人在赌??博中以概率?? 元，则其期望为??qb pa 看了这些命??题，现代的读者??或许会感到??惶惑：为何一个应??取为定义的??东西，要当作需要??证明的定理?? 答案在于，这反映了当??时对纯科学??的一种公认??的处理方法??，即应从尽可?? 能少的“第一原理”（first?? princ?? iple，即公理）出发， 把其他内容?? 推演出来.惠更斯只从??一条公理出??发而导出上??述命题，其推理颇为?? 别致，此处不细述?? 这几个命题??是期望概念??的一般化.此前涉及或??隐含这一概??念只是相当?? 范围.惠更斯的命??题将其一般??化，是这个重要??概念定型的??决定性的一?? 步.实际 上，据惠更斯的??命题不难证??明：若某人在赌??博中分别以?? 概率 .这与现代概??率论教科书??中关于离散??随机变量的??期望的定义?? 完全一致. 余下的11 个命题及最??后的5个问??题，都是在形形??色色的赌博??取胜约定下??， 去计算各方??取胜的概率?? ，其中命题4?? 是关于2??人和多人的??分赌本问题?? .对这些 及其??他问题，惠更斯都用??了现行概率??论教科书中??初等概率计??算方法，通过列出 一??定的方程求??解，大体上与巴??斯噶的做法?? 相似.这种方法后??来被伯努利??称为 “惠更斯的分?? 析方法”.最后5 个问??题较难一些??，其解法的技??巧性也较强?? 二人约定??按ABBA?? ABBAA?? BB??掷两颗骰子?? 次，然后从B开??始轮流各掷?? 两次.若A 掷出和?? 在一次投??掷时掷出和??为6的概率?? 36 B都未取胜??，求在这一条?? 件下A最终??取胜的概率?? .利用全概率??公式，并注意到约??定 的投掷次??序，可以列出方?? 略小于1/2.故此赌法对??A不利. 机遇博弈在??概率概念的??产生及其运??算规则的建??立中，起了主导的?? 作用.这一 点不应??当使人感到??奇怪：虽说机遇无??时不在，但要精确到??数量上去考??虑，在几 百年前??那种科学水??平之下，只有在像掷??骰子这类很??简单的情况??下才有可能?? 这门学科??建立后，既脱离赌博??的范围又找??到了多方面?? 的应用.这也是一个??有趣的 例子??，表明一种看??似无益的活?? 动如赌博），可以产生对??人类文明极??有价值的 产物.把概率论由??局限于对赌??博机遇的讨??论拓展出去??的转折点和?? 标志，应是171?? 伯努利??划时代著作??《推测术》的出版，是在惠更斯??的《机遇的规律??》出版后56?? 年.截至惠更斯??这一著作为??止，内容基本上??限于掷骰子??等赌博中出??现各种情况?? 的概率的计??算，而伯努利这??本著作不仅??对以前的成??果作了总结??和发挥，更提出 了“大数定律”这个无论从??理论和应用??角度看都有??着根本重要??性的命题，可以 说其影??响一直到今?? 日而不衰.其对数理统??计学的发展??也有不可估??量的影响，许 多统计方??法和理论都??是建立在大??数定律的基?? 础上.有的概率史??家认为，这本著 作的??出版，标志着概率??概念漫长的??形成过程的??终结与数学??概率论的开?? 假定有一个??事件A.根据某种理??论，我们算出其?? 概率为 .这理论是否??正确呢？一个检验的??方法就是通??过实际观察??，看其结果与?? 此论理论的?? 推论—— ，而希望通过??实际观察去?? 估计其值.这些包含了??数理统计学??中两类重要??问题——检验与估计?? 问题，是数理统计??学中最常见??、最基本的两??个问题. 要构造具体??例子，最方便的做??法是使用古??典概率模型?? .拿一个缸子??，里面装 有大??小、质地一样的?? 个.这时，随机从缸中??抽出 一球意指各球有??同等可能被??抽出），则“抽出之球为?? 白球”这事件A .如果不知道??a、b的比值，则也不知道?? .这个估计含??有其程度不??确定的误差??，但我们直观??上会觉得，抽取次数愈??N 大，误差一般会?? 愈小.这一点如伯??努利所说：“哪怕最愚笨?? 的人，也会经由他??的本能，不须他人的??教诲而理解?? 的”.但对这个命??题却无人能 ??给出一个严??格的理论证?? 部分??中，是该著作的??精华部分.由于该书在??概 率统计史??上的重要意??义，值得对伯努??利其人及此??书的整个面??貌先作一点?? 介绍. 54年出生??于瑞士巴塞??尔.在其家族成??员中，对数学各方??面做出过 不??同程度贡献?? 的至少有1?? 2人，在概率论方?? 面有5 人，其中杰出的??除他本人外??， 还有其弟弟??约翰与侄儿?? 伯努利的父??亲为其规划??的人生道路??是神职人员??.但他的爱好?? 却是数学.他对 数学的??贡献除概率?? 分、微分方程和??变分法等.后者包括著??名的 问题.他和牛顿、莱布尼兹是??同时代人，并与后者有??密切的通信??联系，因而非常了??解当时新兴??的微积分学??的进展，学者们认为??他在这方面??的贡献，是 牛、莱之下的第?? 一人.此外，他对物理学??和力学也做?? 出过贡献. 他与惠更斯??长期保持通??信联系，仔细阅读过?? 惠更斯的《机遇的规律??》，由 此引发了??他对概率论?? 的兴趣. 后两年.在1705??年他去世时??，此书尚未整?? 理定稿.由于家族内?? 部的问题，整理和 出版??遗稿的工作??，迟迟未能实?? 现.先是其遗孀??因对其弟约??翰的不信任??，不愿把整 理??和出版的事??委托给他，后来又拒绝??了欧洲一位??富有学者捐??资出版的建?? 议.最后 在莱布??尼兹的敦促??下，才决定由其??侄儿尼科拉??斯来承担这?? 件事情.尼科拉斯也?? 是当时重要??的数学家，与欧拉和莱??布尼兹保持?? 通信联系.当时尚无科??学期刊， 学者的通信??是学术交流??的一种重要?? 方式. 《推测术》一书共23 9页，分四个部分??.第一部分P2～71对《机遇的规律??》一书作了详??细的注解，总量比惠更??斯的原书长?? 4倍.第二部分P72～137是关于 排列??组合的系统?? 的论述.第三部分P 138～209利用前面的??知识，讨论了一些??使 用骰子等??的赌博问题?? .第四部分P 210～239是关于概率??论在社会、道德和经济?? 等领域中的??应用，其中包括了??该书的精华??、奠定了概率??史上不朽地??位的，以其 名字命??名的“伯努利大数??定律”——大数定律的??名称不是出??自该书，首见于泊 1837年??的一篇著作?? 中.该书若缺了??这一部分，则很可能会??像某些早期??概率论 著作??那样湮没无??闻，或至多作为??一本一般著??作被人评价?? .该书最后有?? 一长为35 伯努利大数??定律 现在我们来??介绍伯努利??《推测术》中最重要的??部分——包含了如今??被称之 为“伯努利大数?? 定律”的第4 部分??.回到前面的??缸中抽球模?? 型：缸中有大小??、质地 一样的?? 个，“抽出之球为??白球”的概率为 .这种估计法??现今仍是数??理统计学中??最基本的方??法之一.此处的条件?? 是，每次抽取时??都要保证缸??中个球的每?? 一个有同等??机会被抽出??，但这一点在??实践中并不??见得容易保?? 证.例如，产生中奖号??码时可能要??用复杂的装?? 际工作??中，统计学家有??时用一种叫??做“随机数表”的工具.这是一本很??厚的书， ，它们是用据??说是“充分随机”的方法产生?? 的.在使用时，“随机地”翻到一页并??随机地点到??一个位置，以此处的数??字确定 抽出?? 的对象. 伯努利企图??证明的是：用估计可以?? 达到事实上??的确定性——他称为道德?? 确定性.其确切含义??是：任意给定两?? 个数 ，总可以取足??够大的抽样?? 次数N ，使事件的概?? .这意思就很??显然： ，但这种情况??发生的可能??性可以“随心所欲地?? 小”代价是加大??N .为忠实于伯??努利的表达??形式，应指出 两点??：一是伯努利?? ，虽然其证明??对一般也有??效.但他做这一?? 模型限定与??所用缸子模??型的特殊性??有关：必要时把缸??中的白、黑球分别改?? 为ra rbra ，只须取足够??r 大，便可使任意?? rbra 小.其次，伯努利欲证?? ，只要抽取次??数足够大，就可使 这与前面所??说是一回事??.因为由上式?? 取有理数，因而有损于??结果的普遍?? 性.但其证明对??任意的成立?? ，故这一细节??并不重要. 伯努利上述??对事实上确??定性数学的?? 理解，即5式，有一个很值??得赞赏的地?? 方，即他在概率??论的发展刚??刚起步的阶??段，就给出了问??题的一个适?? 当的提法.因 为，既然我们欲??证明的是当?? 接近，则一个看来??更直截了当?? 的提法是 而这不可能??实现.因为原则上??不能排除“每次抽到白?? 球”的可能性，这时总为1?? .或者退一步??：要求7式成立的概?? 率为1，这一结论是?? 对的，但直到19?? 09 年才由??波莱尔给予??证明，证明的难度??比伯努利的??提法大得多 ??.设想一下，如果当时伯??努利就采用??该提法，他也许在有??生之年不能??完成这一工?? 作.由于波莱尔??的结论比伯??努利的结论?? 强，现今人们又??把他们的结??论分别称之??为 强大数定??律和弱大数?? 定律. 究动因亚伯拉罕??狄莫佛出生??在法国一个??信教徒家中?? ，19 岁那年??因宗教信仰??的原因 曾被??捕入狱，并度过了两??年铁窗生涯??.出狱后为逃?? 避迫害，21 岁的他??流亡到伦敦 ??，做了一名教?? 师.在那里，他在教书之??余继续研习??数学，主要是阅读??刚出版不久?? 的牛顿的著??作《自然哲学的?? 数学原理》.后来，他在数学领??域内取得了??多方面成 sincos 但狄莫佛并??未把公式写??成这种形式??.在1718?? 年，狄莫佛出版?? 了《机遇论》Doctr??ine Chanc??es一书，此书奠定了??他在概率史?? 上的地位.该书一共出?? 了三版，分别在17 18年、1738 年??和1756?? 们常说概??率史上有三??部里程碑性??质的著作，狄莫佛的《机遇论》乃其一.另两部为 伯??努利的《推测术》及拉普拉斯?? 于1812?? 年出版的《概率的分析?? 理论》. 有趣的是，吸引狄莫佛??投身到二项??概率的研究??契机，并不是为改??进伯努利 该项研究上??的结果.事实上，1718 年??版的《机遇论》一书表明，狄氏对伯努??利 颇有一番?? 看法.狄莫佛之所??以注意到这??一问题，与下述偶然?? 情况有关. 1721 年??，一个叫亚历??山大??喀明的人向??狄氏提出了?? 一个问题：A、B 二人在甲 家赌博，每局A获胜?? 的概率为 局数.约定：若Np ，则A付给甲??Np .狄莫佛在为??Np 整数条件下?? 得到了 特例给出了??证明.不过，其证法易推??广到一般的?? .狄氏声称此??公式他在1?? 721 年得??到，但证明首次?? 发表是在1?? 730 年.现在我们容??易在一般情?? 过的最大整??a数.易验证，当为整数时?? Np ，公式8与9 一致. 8与9回答了喀明??所提出的问??题，但在较大时?? 的计算不易??.因此，狄莫佛想找??到一个便于??计算的近似?? NpqNpq 因主要在??于泊松近似??公式，以及更重要??的源于该近??似公式的泊??松分布，泊松分 布的??重要性和知??名度在离散??型分布中仅??次于二项分?? 布.泊松的另一??个重要工作??是 把伯努利??大数定律推??广到每次试??验中事件发??生的概率可??以不同的情??况，现称泊 数定律.继狄莫佛给??出二项概率??近似计算公?? 式10之后，丹尼尔和拉??普拉斯也给??出了 二项概??率近似计算??公式，但这些公式??在现今的教??科书上已很??少提及，只有泊松 近??似公式则不?? 然，其形式为 （11）其中 Np .公式11在教科书上??通称为泊松??逼近公式、泊松近似 式.它是泊松在??1838 年??于《概率在法律??审判的应用??》一书中所引?? 进，此公式适用?? 很小，N很大而又不?? Np 很大时，这正好填补??了狄莫佛公?? 的时候.不过，从历史上看??，狄莫佛早在?? 1712 年??已做出了这?? 个结果. 贝叶斯及其??传世之作 托马斯??贝叶斯Thoma?? Bayes??,1701－1761其人在18 世纪上半叶??的欧洲学术??界，恐怕不能不??算是一个很??知名的人物?? .在他生前，没有发表过??片纸只字的?? 科学论著.那时，学者之间的??私人通信，是传播和交??流科学成果??的一种重要?? 信等.但对贝叶斯??来说，这方面材料?? 也不多.在他生前，除在175?? 5年有一封?? 中讨论了??辛普森有关??误差理论的?? 工作外，历史上没有??记载他与当??时的学术界?? 有何重要的?? 交往.但他曾在1?? 742 年当??选为英国皇??家学会会员?? 相当于科学??院院 士），因而可以想?? 到，他必定曾以??某种方式表??现出其学术??造诣而为当??时的学术 篇题为“Anessay?? towar?? ds solvi?? ng probl??em chanc??e机遇理论中??一个问题的?? 解”的遗作.此文发表后??很长一个时??期在 学术界??没有引起什?? 么反响，但到20 世??纪以来突然??受到人们的??重视，成为贝叶斯 ??学派的奠基?? 石.1958 年??，国际权威性??的统计杂志??《Biome?? trika?? 》（生物计量）重 新刊载了?? 这篇文章.此文也有中?? 译本见廖文等译??《贝叶斯统计??学——原理、模 型及应用?? 》的附录4，中国统计出?? 版社199?? 2年版）. 此文是他的??两篇遗作之??一，首次发表于?? 1764 年??伦敦皇家学?? 会的刊物《Philo sophi??cal Trans?? actio?? ns》上.此文在贝叶??斯生前已写?? 就，为何当时未??交付发表， 后来的学者??有些猜测，但均不足定??论.据文献记载??，在他逝世之?? 一封遗??书中将此文??及100 英??镑托付给一??个叫普莱斯??的学者，而贝叶斯当??时对此 人在??何处也不了?? 然.所幸的是，后来普莱斯??在贝叶斯的??文件中发现??了这篇文章?? 他于176??3年12月?? 23日在皇??家学会上宣??读了此文，并在次年得?? 以发表.发表时普 莱??斯为此文写??了一个有实??质内容的前?? 言和附录.据普莱斯说??，贝叶斯自己??也准 贝叶斯写作??此文的动机??，说法也不一??.一种表面上??看来显然的??说法是为了??解 决伯努利??和狄莫弗未??能解决的、二项分布概?? 的“逆概率”问题，因为当时距??这两位学者??的工作发表??后尚不久，有人认为他??是受了辛普??森误差工作??的触 动，想为这种问??题的处理提??供一种新的?? 思想.还有人主张??，贝叶斯写作??此文， 是为了给“第一推动力??”的存在提供??一个数学证?? 明.这些说法现??在都无从考?? 上面提到“逆概率”这个名词.在较早的统??计学著作中??这个名词用??得较多，现在已逐渐?? 淡出.顾名思义，它是指“求概率这个??问题的逆问??题”：已知事件的 ，可由之计算??某种观察结??果出现的概??率如何.反过来，给定了观察??结 果，问由之可以??对概率做出?? 何种推断.推广到极处??可以说，“正概率”是由原因推??结果，是概率论；“逆概率”是由结果推??原因，是数理统计?? 拉普拉斯的??“不充分推理??原则” 贝叶斯工作??发表后很长??一段时期，都没有得到??学术界的注??意，因而他的这?? 种思想未能??及早地发展??成为一种得??到广泛应用??的统计推断?? 方法.但是，也有些 学者??独立地朝这??个方向思考??，提出类似的??思想并付诸?? 实用，其中最重要??的当属 拉普拉斯在??1774年?? 的一篇文章??中提出了所??谓的“不充分推理?? 原则”（princ?? iple insuf??ficie?? nt reaso?? ning）.他的思想大??致如下：如果一个问??题中存在 若??干个不同的??原因cause?? ，则在没有理??由认为其中??哪一个特别??有优势时，概率应各取?? ，即认为各原??因有同等机??会出现.在统计问题??中，这里 所说的?? 不同“cause??” 可看作代表??未知参数的??不同的可能??值.以E记在这 ??原因下可能??产生的事件??例如，在某参数值??之下观察到?? 的样本，拉普拉斯提?? 无关.（12） 用现今熟知??的概率论知??识很容易证?? 明12），但拉普拉斯??在其文章中??用了一个很?? 复杂的证法?? .拉普拉斯的?? 原则12可用于由推?? 则完全??一样，也并未超出??贝叶斯思想??的范围.因此，现在统计学??史上也把拉??普 拉斯视为??贝叶斯统计??的一个奠基?? 10.勒让德发明??最小二乘法?? 勒让德是法??国大数学家??，在数学的许?? 多领域，包括椭圆、积分、数论和几何 等方面，都有重大的??贡献.最小二乘法??最先出现在?? 他于180 5年发表的??一本题为《计算彗星轨??道的新方法??》著作的附录??中，该附录占据??了这本长达?? 80页著作?? .勒让德在这??本书前面几??十页关于彗??星轨道计算??的讨论中没??有使用最小??二乘法，可见在他刚??开始写作时??，这一方法尚??未在他头脑?? 中成形.历史资料还?? 表明，勒让德在参??加测量巴黎??子午线长这??项工作很久??以后还未发??现这个方法?? 考虑到此书??发表于18 法应当在1??805 之前不久的??某个时间. 他提到：使误差平方??和达到最小??，在各方程的??误差之间建??立了一种平??衡，从而防止了??某一极端误??差（对决定参数??的估计值）取得支配地??位，而这有助于??揭示 系统的??更接近真实?? 的状态.的确，考察勒让德??之前一些学??者的做法，都是把立 足??点放在解出??一个线性方?? 程组上.这种做法对??于误差在各??方程之间的??分布的影 在方法的具??体操作上，勒让德指出??，为实现 最小而对各求偏?? 导数所形成??的线性方程?? jiri rj （13）只涉及简单??的加、乘运算，至于解线性??方程组，这是当时已??知的其他方??法也难 .现今我们把??13叫做正则方??程组，这是后来高??斯引进的称?? 关于最小二??乘法的优点??，勒让德指出??了以下几条??：第一通常的??算术平均值??是其一特例?? .第二，如果观察值??全部严格符??合某一线性??方程，则这个方程??必是 最小二?? 乘法的解.第三，如果在事后??打算弃置某??些观察值不??用或增加新??的观察 值，对正则方程??组的修改易?? 于完成.从现在的观??点看，这方法只涉?? 及解线性方?? 程组是其最??重要的优点??之一（其他的重要??优点包括此??法在统计推??断上的一些??优 良性质，以及其广泛?? 的适用性）.近年发展起??来的，从最小二乘??法衍生出的??其他 一些方??法，尽管在理论??上有其优点??，可是由于计??算上的困难??而影响了其?? 应用. 最小二乘法?? 在19世纪??初发明后，很快得到了??欧洲一些国??家的天文和??地测学 工作??者的广泛使?? 用.据不完全统?? 计，自1805?? 年至186 年期间，有关这一方??法的研究论?? 文约250?? 篇，一些百科全?? 书，包括183?? 7年出版的?? 《不列颠百科?? 版），都收进了有??关这个方法??的介绍.在研究论文??中，有一些是关??于最 小二乘??估计的计算??，这涉及解线?? 性方程组.高斯也注意??到了这个问??题，给出了 正则??方程组的命??名并发展了??解方程组的?? 消去法.但是，在电子计算??机出现以前 ??，当参数个数?? 即13式中的 较大时，计算任务很??繁重.1858 年??，英国为绘制 ??本国地图作??了一次大型?? 的调查，其数据处理??用最小二乘??法涉及模型?? 13中 k=920，n=1 554.用两组人员??独立计算，花了两年半??的时间才完?? 成.1958年??我国某 研究??所计算一个??炼钢方面的??课题，涉及用最小?? 二乘法解1?? 3个自变量??的线性回归 ，30余人用??电子计算机??计算，夜以继日花??了一个多月?? 的时间. 勒让德的工??作没有涉及??最小二乘法??的误差分析?? 问题.这一点由高?? 斯在180?? 年发表的??正态误差理??论加以补足??，详细介绍见??后面故事高斯的正态?? 误差理论. 高斯的这个??理论对于最??小二乘法用??于数理统计??有极其重要?? 的意义.这一点在2?? 世纪哥色??特、费歇尔等人??发展了正态??小样本理论??后，尤其明显.正因为高斯??这一 重大贡??献，以及他声称?? 自1799?? 年以来一直??使用这个方??法，所以人们多??把这一方 法??的发明优先??权归于高斯?? .当时在这两??位大数学家??之间曾发生??优先权之争??，其 知名度仅??次于牛顿和??莱布尼兹之??间关于微积??分发明的优?? 先权之争.近年来还有?? 学者根据有??关的文献研??究这个问题??，也作不出断?? 然的结论.这个公案大??概也只 能以??“两人同时独?? 立做出”来了结.但无论如何??，第一个在书??面上发表的??是勒让 德，他有理由占?? 先一些. 我们已指出??，最小二乘法??是针对形如?? 的线性关系??的观测数据??而作出的，现在统计学??上把这叫做?? 线性统计模型——当然，其含义比 初所赋予它??的要广得多??.最小二乘法??在数理统计??学中的显赫??地位，大部分来 自??它与这个模?? 型的联系.另一个原因??是它有简单??的线性表达?? 式.这不仅使它??易于 计算，更重要的是??，在正态误差??的假定下，它有较完善??的小样本理??论，使基于 它的??统计推断易??于操作且有??关的概率计??算不难进行?? .其他的方法??虽也可能具??有 某种优点??，但由于缺乏??最小二乘法??所具备的上??述特性，故仍不可能??取代最小二?? 乘法的位置??，这就是此法??得以长盛不?? 衰的原因. 11. 高斯导出误?? 差正态分布?? 1809 ，高斯CarlFried?? rich Gauss?? ，1777—1855发表了数学??和天体力学 ??的名著《绕日天体运?? 动的理论》.在此书末尾??，他写了一节?? 有关“数据结合” （data combi?? natio?? n）的问题，实际涉及的??就是这个误??差分布的确?? 定问题. 设真值为 （14）其中为待定?? 的误差密度??函数.到此为止他??的做法与拉??普拉斯相同?? .但在往下进?? 行时，他提出了两??个创新的想?? 一是他不采??取贝叶斯式??的推理方式??，而径直把使?? 9式达到最大??的作为的估 （15）成立的 极大似然估??计.这个称呼是??追随费歇尔?? 的，因为他在1?? 912 章中，明确提到以??上概念并非??针对一般参??数的情形. 如果拉普拉??斯采用了高??斯这个想法??，那他会得出??：在已定误差?? 密度为 （16）基础上，其中为未知?? 列居于正中??的那一个n 为奇数时），或居于正中??的那两个的??
看到此处说明本文对你还是有帮助的，关于“概率统计小故事”留言是大家的经验之谈相信也会对你有益，推荐继续阅读下面的相关内容，与本文相关度极高！
