5.4熵与热力学几率

《5.4熵与热力学几率》由会员分享，可在线阅读，更多相关《5.4熵与热力学几率（47页珍藏版）》请在金锄头文库上搜索。

1、*5.4 熵与热力学几率Boltzman：最早把热二律微观本质用数学形式表示出来。 热二律是关于自发过程的方向性。用熵变判断孤立 系统的可逆或不可逆的。一、从微观上，解释过程为什么是单向的。以气体自由膨胀是不可逆的为例。讲义242页。 VA=VB，假设只有四个分子，分布在A、B两个容器内。有16种分配法。16种分配法详细确定了哪一个分子在哪一个容器内，每个容器内有多少个分子。 A、B内的分子数分布：五种。对应五种宏观状态。五种宏观状态A分布数 B分布数微观状态数几率4011/163144/162266/161344/160411/16每一种分子数分布包含几种具体的分法。相当于一种宏观状态对应多

2、个微观状态。宏观状态五种。总的微观状态数：16气体分子总数为N，分子在A的概率1/2，分子在A的概率是1/2，分子这些事件同时发生，N个分子都集中在A的概率：A、B中各有相同分子数，均匀分布的宏观状态，对应最多的微观状态数是6，几率最大是6/16。出现的机会最大。易出现。全部集中在A或在B的宏观状态，对应最小的微观状态数是1，概率是1/16。二、统计理论的基本假设：对于孤立系统（总能量，总分子数一定），所有微观状态是等几率的。但宏观状态不是等几率的：哪一个宏观状态包含的微观状态数目多，这个宏观状态出现机会就大。热力学几率：与任意给定的宏观状态相对的微观状态数，称为该宏观状态的热力学几率。三、熵

3、与系统的微观状态数目（热力学几率）Boltzman 关系： 1887年伟大发现：意义：从微观上，给出了熵是系统混乱度量度。宏观熵Boltzman关系微观态热力学Boltzman关系统计力学 （桥梁）熵：系统能拥有微观状态数目，或热力学几率的度量。常说成无序度。W多，系统内运动越富有多样性，越混乱无序，熵越大；反之，W少，系统内部运动变化单一，越有序，熵越小。Boltzman关系的深远意义：将熵进入其它学科领域开辟了道路。四、熵的可加性：一个系统内两个子系统组成时， 这系统的熵等于两 个子系统的熵之和。由概率法则：五、 Boltzman关系对熵增加原理的透视从热力学几率观点分析：理想气体向真空自

4、由膨胀过程确定分子力学运动状态：位置区间、速度区间。因为：温度不变，所以每一个分子的速度分布几率不变。只是每一个分子在空间分布的可能状态由于体积增大而增加了，即每一个分子的微观运动状态数由于这个因素增为原来的V2/V1倍。若放映1亿张照片/秒钟，（普通电影24张/秒！），那么放完2NA张照片需要多长时间。宇宙年龄1018秒（200亿年）还要大得多！所以并不是原则上不可能出现那张照片，是实际上“永远”不会出现 。气体自由膨胀不可逆性统计意义：气体自由收缩不是不可 能，而是实际上永远不会出现。再看一看热传导不可逆性。六、解释熵的微观意义：常用无序性概念代替热力学几率。1、理想气体自由膨胀：若它的所

5、有分子都处于同一速度和空间微元区间内，那么气体各分子运动是很有规则的，这时宏观状态的热力学几率是1，而熵为零。 当理想气体的各个分子在空间分布的范围越广速度分布的范围越大时，气体就越加处于无序的状态，这时热力学几率就大，而熵也越大。2、通过计算表明：在固体物质中微观粒子按一定的秩序有规则地排列成晶格点阵，而在溶解为液体时这种规则排列就变得比较不规则了，在液体中只保留了局部的规则排列；到了气体状态，分子的分布是杂乱无章的 。例题：水的比热例题：水的比热4.18104.18103 3J/Kg.KJ/Kg.K。1Kg1Kg，00的水与一的水与一 个个373K373K的大热源相接触，当水到达的大热源相

6、接触，当水到达373K373K时，水的熵改时，水的熵改 变多少？变多少？从固体到液体，再到气体的过程中熵增加，反映了微 粒这种无序性的增加。熵是微观粒子热运动所引起的无序性的定量量度。七、对热力学第二定律不可逆性的统计意义进一步讨论（1）熵增加原理，孤立系内自然发生的过程总是向热力学概率更大的宏观状态进行的过程。但在微观上看，这只是一种可能性。因为每个微观状态出现的概率都相同。所以也可能向那些热力学概率小的宏观状态进行。只是由于对应宏观平衡状态的可能微观状态数（极 大值）比其它宏观状态所对应的微观状态数无可比拟地 大得多，非常非常多，所以孤立系处于非平衡态时，它 将以完全压倒的优势可能性向平衡

7、态过渡。反向过程，孤立系熵减小的过程，并不是原则上不可 能，而是概率非常非常小。（2）涨落：实际上，在平衡态时，系统的热力学概率 或熵总是不停地进行着，对于极大值或大或小的偏离 ，这种偏离叫涨落。对于分子数比较少的系统，涨落 很容易观察到。Brown运动：粒子无规则运动位置涨落。少量分子：因为只受到少量的分子无规则碰撞。大量分子系统：涨落相对很小，观测不出来。所以平衡态显示静止的模样，而实际过程也就成为不可 逆的。5.5 信息熵、信息量与负熵信息熵四个基本特点：1. 历史悠久，已经历半个多世纪的深入泛化过程；2. 在深入泛化过程中，它涉及到许多学科领域。其中 有“热力学、统计力学、信息论、控制

8、论、数理经济 学、数理社会学、哲学等；3. 在所涉及的各个学科理论体系中，熵都是基本量， 都有极重要的位置；4. 实际上是个泛函，概念比较抽象，在各个学科中既 是重点又是难点。一、熵概念的发展简史1. 熵最初产生于18世纪初，Carnot研究热机效率发现可逆循 环过程，随后Clausius根据可逆Carnot循环过程定义了态 函数熵。 Clausius明确了熵态函数，但没有给出更深刻的 物理含义。2. 直到18世纪中期，1887年波尔兹曼著名公式：w是热力学 体系宏观态的微观状态数。当初称热力学几率，其实这个 词并不确切。因为：通常几率在0，1区间，而热力学 体系宏观状态的微观状态数w总是大于

9、1，而且数量级非常 之高。3. 1928年，Hartrey可能受波尔兹曼关系的启发，首次在通 信领域里提出信息熵的定义：N是等概率消息单元的总数，信息熵H的意义是输送一个 消息单元的不肯定性程度的量度。等概消息单元总数N愈多， 信息熵H愈大,输送一个消息单元的不肯定性程度就愈大；反之 ，N愈少。当消息单元的总数N=1时，H=0，输送这个消息的 不肯定性程度为零，就是完全肯定输送这个消息。信息熵意义：在解决通信领域里的实际问题比较方便，只要知道等概 率消息单元总数N就可以计算信息熵H。不足：对简单的信息源应用起来方便，对复杂的信息源把握等概 率消息单元总数N却不是容易做到的；用这个信息熵定义计算

10、得到的实际上是信息源的最大熵。4、1948年，shannon推广Hartrey信息熵的定义，首先引入各不 等概消息单元不肯定性的量度本征信息熵为：信息熵定义：H(X)各个不等概消息单元的本征信息熵的加权统计平均值。Pi是第i个消息单元的概率，n是不等概消息单元的总数。本征信息熵的意义：第i个消息单元Xi的不肯定性程度的量度。总信息熵的意义：信息源X的总的不肯定程度的量度。当各个消息单元是等概率时信息源的信息熵为：Hartrey定义的信息熵是shannon定义的信息熵在等概条件下 的最大值。5、随着生物信息论、经济信息论、社会信息论等学科不断运用信息熵，使之有进一步的泛化的必要。熵的产生于热 力

11、学，扩展于信息论等学科领域。在不同的学科里，对熵的意 义提法有所不同。但是从泛熵的概念高度来看。它们在本质上 是一致的。凡是属于下列一类的对立统一性质的事物，例如：混乱性秩序性， 散漫性组织性。无序性有序性， 不肯定性肯定性。盲目性目的性， 一般性特异性，随意性计划性， 随机性确定性，多样性单纯性， 含糊性透彻性，暧昧性明确性， 未知性已知性噪声信号，并且满足如下概型条件本征状态：概率分布：完备性：归一性：以上的问题，均可用熵作为指标进行分析。二、信息源的概型结构 本征信息熵现在讨论信息熵的基本概念1、信息源：发送消息的源。Information source 自然界中的一切事物，大至宇宙天体

12、，小至原子，原子核 ，基本粒子，以及中间的各个层次；生物圈、生态、群落、 种群；个体、系统、器官、组织、细胞、亚细胞、分子、亚 分子等，例如一个国家、社会团体。大脑、内分泌等等，都 有它们自己的情态，无不随时发送它们自己的信息，因而都 可作为信息源。例如：自然界中的一切物体，大至宇宙天体 ，小至原子、原子核、基本粒子、以及中间的各个层次：生 物圈，生态，群落，种群，个体，系统，器官，组织，细胞 ，亚细胞，分子，亚分子等，例如一个国家、社会团体，大 脑，内分泌等等，都有它们自己的情态，无不随时发送出它 们自己的消息，因而都可作为信息源。信息源特点：它们都具有一系列可能的基本状态，叫本征态。每一本

13、征态 称为一个消息单元，记：Xi（i=1,2,3n），这n个消息单元 或本征态序列实际上就是离散的随机变量，它具有互斥性和完 备性。互斥性：信息源可能处于这个基本状态，也可能处于其 余的基本状态，但不能同时处于同一个本征状态，处于这个本 征态，就不处于其它本征态；完备性：这个n个消息单元是完 备无缺的。这个n个互斥的完备的消息单元构成一个消息单元 的集合，记：XX1， X2 ，Xn每个消息单元Xi都有个确定的概率与之相对应，记：p(Xi)， 整个消息单元的集合X有概率： P (X) P(X1)， P(X2 )， P(Xn)分布着，消息单元集合的俄互斥性与完备性反应 在概率上是概率的总和具有归一

14、性。因此，信息源的基本概型结构：消息单元Xi X1， X2 ， Xn概率分布P(Xi) P(X1)， P(X2 )， P(Xn) 实际例子：设有一在外的工作人员，收到消息得知家中的老母 中风住院治疗，这时他母亲就是个信息源，可能处于的本征态 ：可能发送出的消息单元有(Xi) ：消息单单元 XiX1 死亡X2 昏迷X3 偏瘫瘫X4 好转转X5 康复概率分布 P(Xi)1/51/51/51/51/5当工作人员又接到家信得悉母亲经抢救后，已恢复意识， 正在积极进行治疗。这时信息源的本征态或消息单元的集合概 率分布已发生了变化。消息单单元 XiX1 死亡X2 昏迷X3 偏瘫瘫X4 好转转X5 康复概率

15、分布 P(Xi)001/31/31/3如果工作人员又接到消息说：经积极治疗后已经能起床作太极 操了，则相应的概率分布变为：消息单单元 XiX1 死亡X2 昏迷X3 偏瘫瘫X4 好转转X5 康复概率分布 P(Xi)0001/21/2提出一个问题：各个消息单元的不肯定程度多大？ 概论大，可 能性就越大，不可定性程度就越小；反之，概率小，可能性就 越小。 例如：X5康复的概率最大到1，其它概率降为零，这个 消息单元X5就完全肯定了。不确定性为零。因此，本征信息熵定义：消息单元概率的倒数的对数为消息单 元的不肯定性程度的量度。第一次电话后，五个本征态或消息单元，各个本征信息熵：消息单单元 XiX1 死

16、亡X2 昏迷X3 偏瘫瘫X4 好转转X5 康复 P(Xi)1/51/51/51/51/5H(Xi)bit2.3222.3222.3222.3222.322第二次电话后，五个本征态或消息单元，各个本征信息熵：XiX1 死亡X2 昏迷X3 偏瘫瘫X4 好转转X5 康复 P(Xi)001/31/31/3 H(Xi)bit1.585XiX1 死亡X2 昏迷X3 偏瘫瘫X4 好转转X5 康复 P(Xi)0001/21/2H(Xi)bit1第三次电话后，五个本征态或消息单元，各个本征信息熵：对于好转这个消息单元的不肯定性程度由2.322bit逐渐减少 到1bit，肯定性程度是逐渐增加的。三、信息源不肯定性的量度信息熵信息源的信息熵：各个消息单元的本征信息熵的统计加权平均 值。为这信息源的不肯定性的程度。第一