克劳德·香农

克劳德·艾尔伍德·香农（Claude Elwood Shannon，1916年4月30日—2001年2月24日）是美国数学家和电气工程师。他的研究创立了信息论，并为数字通信和计算奠定了数学基础。他将布尔代数与开关电路联系起来，量化了信息及可靠传输的极限，并提出了研究密码学的数学方法。他曾在贝尔实验室工作，后来在麻省理工学院（MIT）担任教授。(news.mit.edu)

教育与学术生涯

香农出生于密歇根州佩托斯基，在盖洛德长大。1936年，他获得密歇根大学的数学和电气工程学士学位，随后进入麻省理工学院攻读研究生。1940年，他获得电气工程硕士学位和数学博士学位。他的博士论文研究如何用代数方法处理群体遗传学问题，与后来使他最为知名的通信研究属于不同领域。(news.mit.edu)

他于1941年加入贝尔实验室。第二次世界大战期间，他的研究涉及军事火力控制问题和保密系统。1956年，他成为麻省理工学院的客座教授；1958年起担任唐纳科学讲席教授，直到1978年成为荣休教授。他的研究将抽象的数学分析与电路、信号和机器的实际问题相结合。(news.mit.edu)

布尔代数与开关电路

香农的早期研究表明，代数可以用来描述电气继电器和开关的运行。1938年，他根据硕士阶段的研究发表了论文《继电器与开关电路的符号分析》，以符号方式处理电路状态，而非仅仅依靠电路图或反复试错来设计。这一方法将电气开关与逻辑学联系起来：开关的组合可以实现逻辑运算，而代数变换则可以简化相应的电路。(tubes.mit.edu)

对于以导通和不导通状态表示的开关，串联和并联结构对应着不同的条件组合。香农提出了分析这些结构以及构建满足指定要求的电路的方法，使人们能够在逻辑表达式与其物理实现之间进行系统转换。这项贡献是一种通用的设计方法，而不是发明了计算机本身；它帮助奠定了数字开关系统的理论基础。(tubes.mit.edu)

信息与通信

香农的《通信的数学理论》于1948年7月和10月分两期刊登在《贝尔系统技术期刊》上。该论文以此前的通信研究为基础，将噪声和消息的统计结构纳入一个通用的数学框架。他的模型区分了信息源、发送器、信道、接收器和信宿，并考虑到噪声可能改变传输中的信号。(princeton.edu)

这一理论有意将通信工程与语义学所关注的意义问题分开。它要回答的是如何重现一条选定的消息，而不是这条消息是否真实、有用或有意义。对于各取值概率为 $p_i$ 的离散随机变量 $X$，香农将信息熵定义为

采用以二为底的对数时，熵的单位是比特。熵表示平均不确定性：各个可能结果等概率时，其熵高于某一个结果占据绝大部分概率的情形。(princeton.edu)

信源编码定理确立了无损数据压缩的极限。有噪信道编码定理则表明，在满足定理假设的条件下，只要传输速率低于信道容量，适当的编码就能使传输错误的概率任意接近于零。这些结论属于渐近的存在性结果，并不意味着每一种有限长度的纠错码都能达到信道容量，或彻底消除错误。(princeton.edu)

数学密码学

在1949年10月发表的《保密系统的通信理论》中，香农将概率推理应用于加密。该论文以一份于1945年9月完成的机密报告为基础，探讨了消息、密钥和密文之间的数学关系。(onlinelibrary.wiley.com)

他对完善保密性作出了形式化定义：观察密文不会改变观察者对各个可能明文的概率判断。正确使用的一次一密系统，只要采用独立、均匀随机且仅使用一次的密钥，就满足这一标准。完善保密性关注的是观察者能够获得的信息，而不是破解密码在计算上的难度。香农还讨论了混淆和扩散这两项原则，用以掩盖密钥、明文和密文之间的关系。他的分析区分了安全性的根本极限与具体加密系统的实际特性。(cs.virginia.edu)

国际象棋与人工智能

香农在1950年的论文《编写计算机程序下国际象棋》中，探讨了机器如何在不穷尽所有可能棋局的情况下选择着法。他将博弈树搜索与启发式评估函数及极小化极大算法推理结合起来。他区分了搜索固定深度内各种变化的A型策略，以及选择性更强的B型策略。国际象棋由此成为一个定义明确的实验问题，用于研究机器决策。(cs.cornell.edu)

1955年8月31日，香农与约翰·麦卡锡、马文·明斯基和纳撒尼尔·罗切斯特共同撰写了次年夏季达特茅斯会议研究项目的提案。该提案推动了以人工智能为名的研究领域的确立，并提出了有关机器学习、抽象、语言及自我改进的问题。(www-formal.stanford.edu)

实验机器与荣誉

香农还制造了多种机电装置。1950年制成的“忒修斯”使用一只磁性老鼠，由可调整布局的迷宫下方的继电器电路控制。该装置能够寻找目标，并保存信息以便之后再次寻路。它所表现出的学习能力依赖于外部控制机构，而不是老鼠内部的电子元件。(news.mit.edu)

他的其他作品包括机械杂耍装置，以及在家中工作间制造的娱乐机器。其中一批物品于2007年捐赠给麻省理工学院博物馆。香农于1966年获美国国家科学奖章和IEEE荣誉奖章，1985年获京都奖基础科学奖。他在马萨诸塞州梅德福去世，享年84岁。(news.mit.edu)