第572章 信息的本质!物质or能量?信息熵!开创信息论先河!(1/2)
如果要问信息是什么?
恐怕很多人第一时间都非常疑惑。
“信息就是信息啊,还能是什么?”
信息是一个非常抽象的概念。
随便写一个字,一句话,或者是一篇文章,其中都包含了信息。
此外,哪怕不用文字也能传递信息。
比如华夏的烽火狼烟,就是靠烟尘传递军事情报,并没有使用任何文字信息。
所以,任何人都能知道信息的含义。
但是,如果要你给出信息的严格定义,并且如何去描述信息,恐怕大部分人就要抓瞎了。
这不仅是普通人的问题,也是科学家的问题。
真实历史上,信息学的诞生和发展与物理学有着紧密的联系。
20世纪初期,随着电子、通信等技术的蓬勃发展,当时的工程师们遇到了一个问题。
“如何表征信息的量呢?”
比如,你想要给远方的亲戚送点礼物。
你可以在信中说,盒子里有五种糕点,六种水果,还有一个小铜镜等。
这些数字都是精确的信息。
亲戚虽然无法亲眼见到你,但是他在看到这些信息后,就能自己核对。
这看起来是一个非常简单的问题。
但是,通信工程师们却为此犯了愁。
他们需要先把这些文字信息编码成电子信息。
然后,再通过翻译、压缩、控制等等手段,使其能够在电线中以光速传播。
在这个过程中,不管是机器的计算要求,还是业务的收费要求,都需要清晰地知道信息的量到底有多少。
那么“五种糕点”和“六种芒果”哪个表述的信息量更大呢?
或者,再来个更极端的例子,一张只有5个字的白纸,和一张只有500字的白纸,哪个的信息量更大?
早期电报刚开始运营时,收费是直接按照所发字的数量来收。
五个字比一个字贵。
这就会引起疑问。
“难道发五个字比一个字就更费电吗?”
这其中就涉及到了信息量的问题。
这个问题在普通人看起来十分简单,但如果想要从科学上进行严格证明那就非常困难了。
后来,随着计算机理论的出现,科学家们对于信息定量的需求越来越迫切。
于是,信息论诞生了。
它是专门研究信息的理论。
真实历史上,1948年,美国数学家、密码学家香农发表了一篇震惊学界的论文:《通信的数学理论》。
在这篇论文里,香农首次提出了“信息熵”的概念。
他借鉴了热力学中关于熵的概念,把信息中排除了冗余信息后的平均信息量称为“信息熵”。
在热力学中,熵表示微观系统可能的状态数量,或者是混乱程度。
而信息熵表示各个可能事件发生的概率。
在论文中,香农给出了信息熵的数学表达公式:H(x)=-∑plogp(p表示事件发生的概率)。
至此,对于信息的量化度量问题得到解决,科学家们以后就可以用定量的方式来研究信息。
这时,可以给信息下一个较为严格的定义:
“信息是用来消除不确定性的东西,不确定性越大,信息量越大。”
但是这里要注意一个问题。
信息熵是建立在计算机通信、01编码等基础上的严格数学概念。
它是专门为了计算机而诞生的一门理论科学。
在具体操作和计算层面上,信息熵可以理解为存储信息所需的最小比特数。
而真实世界的信息熵计算是非常非常复杂的,甚至根本没有办法计算。
一般都是通过信息熵的变化量来解决问题。
此外,同样的一句话,可能不同的人从这句话中得到的信息量都是不一样的。
比如同样一张脸,有人得出“美”的信息,有人却得出“丑”的信息。
这种带有联想和个人经验性质的抽象信息,不是香农提出的信息熵所包含的范围。
总之,香农发表这篇论文,提出信息熵概念,标志着信息论的诞生。
他本人也顺理成章地被称为“信息论之父”。
信息论出现之后,计算机理论和技术得到了飞跃式的发展。
并且催生出后来璀璨至极的信息时代。
这时,可能有人发现问题了。
“咦?那信息和麦克斯韦妖有什么关系?”
“甚至它和物理学又有什么关系吗?”
在信息论发展早期,没有人能说清楚信息和真实物理世界的关系。
信息仿佛是物质、能量之外的第三种存在方式。
比如,一个苹果放在那里,关于它有很多信息,味道、质量、颜色等等。
此刻若苹果消失了,那么物质和能量都消失了,但是关于苹果的信息却没有消失。
我们即便看不见苹果了,也知道它的味道。
但是从另一个角度看,信息又不能脱离物质和能量单独存在。
如果宇宙在下一刻,所有物质和能量突然消失,那么宇宙中还存在信息吗?
或者说,此时的信息还有“意义”吗?
总之,信息和物质、能量的关系非常朦胧不清。
这时,有人突发奇想:
“如果信息和物理世界是统一的,那么信息量也应该视为一种物理量。”
但是这个观点却存在两个问题。
第一,在物理学中,描述一个物理系统的状态,需要用到各种物理量,比如速度、能量等。
这些物理量都有着自己的量纲,说明它们是通过测量得到的。
比如热力学中熵的量纲是J/K。
但是信息熵却只有单位,并没有量纲。
因为信息熵并不需要测量,而是通过数学计算事件发生的概率。
量纲是表征物理量性质的属性,而单位仅仅表示物理量的大小。
二者在本质上就有区别。
所以,信息量能否当成物理量值得商榷。
当然,这个问题可以通过扩大物理量的定义来解决。
但是第二个问题就不好解决了。
在物理学中,物理系统状态的改变意味着需要对系统做功。
而做功又代表了系统能量的变化。
但是信息状态的改变,或者说信息熵的改变,需要消耗能量吗?
比如,一张写了5个字的纸和一张写了100个字的纸,哪张纸的能量更大呢?
又或者,你在电脑上打字,打完不满意,你又把字全部删除了。
这个过程中,如果不考虑电阻等因素,请问信息的改变是否消耗能量了?
这是一个非常有意思的问题。
问题的本质可以总结为:信息和能量是否有关系?有什么关系?
解决这个问题的关键,其实就是热力学中的“熵”。
本章未完,点击下一页继续阅读。