信息论之父

作者: 来源: 发布时间:2010年11月03日 点击数:
 

克劳德. 艾尔伍德. 香农(Claude Elwood Shannon 1916—2001)(也有叫申农)

申农是现代通讯理论--信息论的创始人、影响人类社会进程的科学家 2001年2月24日,享年85岁的信息量创始人(美国) C.E.Shannon 申农(香农)辞世(1916-2001)。有的文章称他为伟大的科学家。回顾20世纪的信息革命风暴,想想这个革命的理论基础就是新创立的信息论,把信息论的创始人称为伟大的科学家并不为过。确实,他对人类贡献远远超过了一般的诺贝尔获奖者。 历史证明质量、能量和信息量是三个非常重要的物理量。而如何度量信息的数量问题是在信息论中解决的。

克劳德·艾尔伍德·香农, 1916430日出生于美国密歇根州的加洛德(Petoskey),1936年毕业于密歇根大学并获得数学和电子工程学士学位,1940年获得麻省理工学院(MIT数学博士学位和电子工程硕士学位。1941年他加入贝尔实验室数学部,工作到1972年。1956年他成为麻省理工学院(MIT)客座教授,并于1958年成为终生教授,1978年成为名誉教授。香农博士于2001226日去世,享年84岁。
  香农在普林斯顿高级研究所(The Institute for Advanced Study at Princeton)期间,开始思考信息论与有效通信系统的问题。经过8年的努力,从19486月到10月,香农在《贝尔系统技术杂志》(Bell System Technical Journal)上连载发表了影像深远的论文《通讯的数学原理》。1949年,香农又在该杂志上发表了另一著名论文《噪声下的通信》。在这两篇论文中,香农解决了过去许多悬而未决的问题:阐明了通信的基本问题,给出了通信系统的模型,提出了信息量的数学表达式,并解决了信道容量、信源统计特性、信源编码、信道编码等一系列基本技术问题。两篇论文成为了信息论的基础性理论著作。那时,他才不过刚刚三十出头。
  香农的成就轰动了世界,激起了人们对信息论的巨大热情,它向各门学科冲击,研究规模象浪雪球一样越来越大。不仅在电子学的其他领域,如计算机、自动控制等方面大显身手,而且遍及物理学、化学、生物学、心理学、医学、经济学、人类学、语音学、统计学、管理学……等学科。它已远远地突破了香衣本人所研究和意料的范畴,即从香农的所谓狭义盾息论发展到了广义信息。香农一鸣惊人,成了这门新兴学科的奠基人。
   20世纪80年代以来,当人们在议论未来的时候,人们的注意力又异口同声的集中到信息领域。按照国际一种流行的说法,未来将是一个高度信息化的社会。信息工业将发展成头号工业,社会上大多数的人将是在从事后息的生产、加工和流通。这时,人们才能更正确地估价香农工作的全部含义。信息论这个曾经只在专家们中间流传的学说,将来到更广大的人群之中。香农这个名字也飞出了专家的书斋和实验室,为更多的人所熟悉和了解。
  香农被尊称为是信息论之父。人们通常将香农于194810月发表于《贝尔系统技术学报》上的论文《通信的数学原理》作为现代信息论研究的开端。这一文章部分基于哈里·奈奎斯特(Harry Nyquist)和拉尔夫·哈特利先前的成果。
  这一定义可以用来推算传递经二进制编码后的原信息所需的信道带宽。熵的概念量度的是消息中所含的信息量,而去除了消息中固有结构所决定的部分,比如,语言结构的冗余性以及语言中字母、词的使用频度等统计特性。
  信息论中熵的概念与物理学中的熵有着紧密的联系。玻耳兹曼与吉布斯在统计物理学中对熵做了很多的工作。信息论中的熵也正是受之启发。

上一篇:Prolog

下一篇:超文本