爱华网系列专题：《玩转华尔街：财富公式》
在提出这些关于信息论的设想之后，申农需要给信息中不可压缩的实质内容起个名字。对于这种不可压缩的实质内容，哈里 奈奎斯特称之为情报，拉尔夫 哈特莱称之为信息。在申农早期的论文中，申农偏向于使用哈里 奈奎斯特提法。在军事行动中，"情报"这个词常常和密码破译工作联系在一起。同时，"情报"还可以用来指含义，而申农的理论和信息的含义完全无关。普林斯顿的高级研究所的数学家约翰 冯 诺伊曼建议申农使用"熵"来命名这个概念。熵是个物理学的概念，大致用来描述偶然性、混乱无序、以及不确定性。熵这个概念是在研究蒸汽引擎的过程中产生的。经过研究，科学家发现偶然产生的热能无论使用什么方法也不能转换成可以使用的能量。必须保证一定的温差（由高温的蒸汽推动活塞压缩冷空气），蒸汽引擎才能运行。随着温差的减小，蒸汽引擎会慢慢停止运转。物理学家把这个过程描述为熵的增加。根据著名的热力学第二定律，宇宙中的熵总是在不断增加的。一切事物都会慢慢衰败，最终把能量耗尽。 约翰 冯 诺伊曼告诉申农，用"熵"来命名这个概念谁也挑不出毛病来，因为很少有人知道"熵"的真正含义。约翰 冯 诺伊曼这样说并不完全是开玩笑。事实上，物理学中熵的方程等式与申农理论中信息等式的形式完全相同（两个等式都使用同样的概率算法）。申农接受了约翰 冯 诺伊曼建议，不但用"熵"来给自己提出的概念命名，而且借用了熵的代数符号，罗马字母"H"。申农后来把自己在马萨诸塞州的房子命名为"熵宅"，只要你看看房子里的布置就会觉得这个名字起得恰如其分。 在提到这件事时，罗伯特 法诺回忆道："当时我不喜欢信息论这个名字。而且，申农也不喜欢。"但是，很多人都很喜欢"信息"这个字眼，结果，不光申农的理论被冠以"信息论"这个名字，而且就连信息内容这个概念也用信息来替代了。
赶潮流 关于信息论的研究，申农超越了所有前人的成就，他的研究成果使所有人都大为震惊。申农提出的理论不仅在当时，甚至在现在也必须用神奇这个词语来形容。 在研究中申农发现，通过将信息进行编码，可以对通信渠道的信息传输能力进行几乎百分之百地利用开发。在申农之前还没有过任何人在实际操作中成功地做到这点，所以人们对申农提出的理论感到非常震惊。根据申农的理论，当时通用的几种编码系统，包括摩斯电报码、美国信息互换标准代码（ASCII），以及所谓的"简明英语"编码，都远远没有充分利用通信渠道的信息传输能力。当时常用的编码系统对于信息的压缩整理只是相当于把一堆圆形保龄球放在方方正正的柳条筐里，不论怎么精心码放，总会有相当大的无法利用的空间。因为任何人也做不到在保龄球装筐时一点空隙都不留，而把所有的空间都充分利用起来。虽然不能把柳条筐完全塞满保龄球，但是，按照申农提出的理论，我们却可以在通信渠道中完全塞满信息。 申农的另一项发现是针对信息传输中的噪音干扰问题的。在申农公布这一发现之前，人们认为只有使用更大的信息传输带宽，才能保证把噪音干扰降到最低。举个简单的例子，作为预防措施，我们可以把同一条信息重复发送三遍，把竹竿捡起来，把竹竿捡起来，把竹竿捡起来。信息接收方收到的内容可能是，把竹竿捡起来，把猪肝捡起来，把竹竿捡起来。这样，通过把三条信息加以比较，信息接收方自然就可以分辨出正确的信息内容。但这种做法有个缺点：必须占用三倍的带宽资源。 根据申农提出的理论，我们可以做到两全其美，既节省带宽资源，又保证信息传输的准确。方法就是通过采用新的编码系统来把产生噪音干扰的可能性降到最低，这样就可以在不多占用带宽的同时保证信息传输的准确度了。但是，申农提出的理论和当时通讯工程人员几十年积累的经验构成了冲突。罗伯特 法诺的反应是："把信息失真降到你想的那么小吗？几十年来从没有人往这个方向想。我不知道他是怎么产生这个想法的，更不知道他为什么会坚持这个想法。"虽然申农的理论在当时遭到了广泛的反对，但几十年后，他的理论却成了世界上几乎所有通讯工程系统运行的基础。
