「熵」是什么？怎样以简单易懂的方式向其他人解释？

有关回应 · 2021-5-31 19:41:33

写个科普=。=
熵是不确定性的一种度量。
简单易懂的解释：
比如你去跟朋友商量，扔一个硬币，如果正面就去你喜欢的店吃饭，如果反面就去他喜欢的店吃饭。
这时候你特别想去你喜欢的店，于是悄悄在硬币上做了手脚，让每次扔都是正面朝上。是不是去哪里吃饭这件事就是确定的，不随机的。这时候，熵是最小的。
如果硬币是公平的，正反面出现可能性相同。这时候，去哪家吃饭这个事件不会偏向你们两个任何一方。熵是最大的。
所以说，熵是对不确定程度的一种描述。
严格一点，我们给个数学定义。
一个随机变量取值是离散的，取第i种情况的概率为
，比如上面的例子，正面朝上概率为p，反面朝上概率为1-p
定义，这个分布的熵是
下面来看下它的性质，因为
，所以，熵是一个大于等于0的数，并且，当概率全部集中到某个事件上，熵为0，也就是说，随机事件不具有随机性了。比如上面的例子，p=1或0
那什么时候熵最大呢。以上面的例子，

也就是在随机事件不偏向任何一方的时候，熵达到最大。此时，结果也就是常说的最混乱。
更进一步，对于任意离散随机变量，没有提供任何先验信息的情况下，熵最大所对应的概率对于任意结果都是相同的。比如有n种结果，那么
证明也是对熵求导，不过要注意这时候要用Lagrange乘子

那我们继续往前走一步，如果你不知道硬币到底出现正面的概率是多少，但是，有人告诉你，经过一万次实验，硬币正面朝上的平均次数是0.6，那么这时候，怎么通过最大熵原理给出你对概率的估计呢。
我们还是对熵求导，只不过这时候又有约束了，那就是数学期望。

看一下也就知道，熵最大时，正面朝上的概率
进一步，对于有多种结果的随机变量，下面以连续随机变量为例，给定均值
，最大熵分布为

其中，
学过热统的同学应该发现了，这就是正则分布。用物理语言把上面的话再说一遍
给定系统的能量均值为
，系统的最大熵分布为

并且，温度满足
也就是说，正则分布是给定能量的一阶矩时的最大熵分布
具体的细节可以参考这三个回答
信息熵与热力学统计物理中的熵有什么区别和联系？统计力学中，配分函数的物理意义是什么？统计物理中的宏观状态(macrostate)究竟如何定义？为何此时不同的微观状态(microstate)不可区分？

有关回应 · 2021-5-31 19:41:34

1.熵是什么？
热机是工作在两个不同储热器之间的理想机器，它从温度为t1的储热器获取热量做功，再将余热排到温度为t2的较低温储热器.

卡诺热机的效率

对于理想热机的卡诺循环，效率也可写为

从而

注意，是从温度为T1的reservoir流出温度为T1、热量为
的热，流出这部分热之后，原来的reservoir温度依然是T1，只是热量减少了.同理，温度为T2的低温reservoir里，流入温度为T2的热量，总热量增加，但是温度不变.
在研究卡诺热机操作循环过程中，克劳修斯发现热量在减少的同时，却可以看出有一个量在整个循环的过程中自始至终保持不变.如果是在理想过程中的话，那么这个比值是个常数，而且从不会减少.这也就是说，在密闭系统中，系统的热量和系统的绝对温度的比值在任何过程中都是不变的.1865年，克劳修斯发表了《力学的热理论的主要方程之便于应用的形式》一文，在文中明确表达了“熵”的概念.熵是物质的状态函数，即状态一定时，物质的熵值也一定.
.
2.为什么会出现熵增？
理想的卡诺循环是可逆循环，但是对于现实中不可逆循环，克劳修斯给出了一个例子，如果10 J的热量从350 K的物体流到300 K的较冷物体，注意，此情况不是热机，只是自然界中温度从高温物体传递到低温物体，则有

使用熵这个新概念，Clausius可以将热力学第二定律的热始终\只能从高温物体流向低温物体表示成数学形式.正如我们一直观察到的，如果一定量的热Q自然地（非外界作用）从一个高温物体流到低温物体，低温物体获得的熵要比高温物体失去的熵大，所以他可以称述说，任何热的传递效果，也就是驱动所有自然界的热力学的过程的原理，是参与热传递的两个物体之间的熵的增加.这个新的原理确定了自然的过程的前进方向.所有的自然过程都是以熵的增加的形式发生的.只有两个物体的温度相同时，热的传递过程中熵不变，而这是不可能的，因为此时不会有热的传递.所以绝热等温的热传递过程会导致熵不变，这只是一个理想状况，因此不会发生.所有其它真实的过程，都有熵增加的效应.这就是热力学第二定律.
热力学第二定律可以用很多不同的描述来总结，所有这些描述都是对我们所观察到的事情给以一个合理理由的尝试.当两个物体有热接触时，热总是从温暖的物体传递到比较冷的物体.这个普遍适用的结果很可能有很多物理学家给出很多的解释了，但是困难不在于第二定律说的是什么，而是为什么自然界要这样进行，最根本的原因是什么.
任何进程要么增加熵，要么保持熵的恒定.熵的恒定只在可逆的平衡过程中发生.所有自然的过程都是不可逆的.
3.熵为什么和无序度有关？
我们知道，气体是由一个个分子组成的.那么，由千百万个分子组成的气体，其宏观性质自然也应该与每一个微观分子的运动息息相关.但是很显然，由于分子数量太大，用牛顿力学来解释系统内每一个分子的运动，实际上是不可能的.为了建立气体分子的微观运动与宏观现象之间的理论联系，从19世纪中叶开始，人们逐渐建立了一门新的学科——气体分子运动论.
气体分子运动论认为，气体中的大量分子处在混乱的运动之中.而整个体系所表现出来的宏观性质，可以根据力学定律以及大量分子运动所表现出来的统计规律来说明.例如，气体的压强是由大量分子撞击容器的器壁而产生的，气体温度的升高是分子平均动能增加的结果.
现在看来，上面这些东西似乎都很简单，我们在中学物理课本上就已经对它们很熟悉了.可是当分子运动论在19世纪中叶刚刚出现的时候，它却引起了一场轩然大波.玻尔兹曼就是这场风波的主角之一，并为此付出了生命的代价.
玻尔兹曼熵公式
要解释玻尔兹曼熵公式，先再明确一下熵的概念.熵在希腊语中是“变化”的意思，是1854年由德国科学家克劳修斯首先引进到物理学中的，用来说明热力学过程的不可逆性.克劳修斯是从宏观热力学角度来研究熵的.所谓“宏观”，也就是说，我们是用温度、热量、体积、压强等宏观物理量来描述所研究的体系.克劳修斯把熵同系统的热量交换联系在了一起，系统熵的变化就等于热量变化除以绝对温度后所得的商.
我们大家都知道热力学第二定律：在没有外界做功的情况下，热永远不能由冷的物体传向热的物体.利用熵的概念，我们可以把热力学第二定律表示成更简洁的说法：在孤立系统中，熵总是不断趋于增大.
那么，从微观角度看，熵又代表了什么呢？玻尔兹曼给出了他的答案：熵就是无序度.我们前面已经说过，气体内分子的数目是非常大的，我们根本不可能描述每一个分子的运动.为了解决这个难题，玻尔兹曼利用了统计的观念，用考察分子运动排列的概率来对相关物理量进行研究.
所谓概率，其实就是可能性.气体里的大量运动分子，总是有的向东有的向西，各个方向都有.对于某个分子而言，它向哪个方向运动都有可能，也就是都有一定的概率.但由于条件的限制，分子在不同方向上运动的概率是不同的.如果我们确定了这些概率，我们就能运用统计规律，得出相应的结果.例如，对于包围你的室内空气而言，就可以计算每个空气分子所有可能的分布方式及其所有可能的运动方式.这就是玻尔兹曼的思想——用统计理论来解释热力学问题，这在当时的物理学界引起了很大的争议.但事实证明，玻尔兹曼是对的.
要在热力学中计算分子处于某个微观状态的概率，首先要计算体系中粒子可能具有的所有不同微观状态的总数，它是一个非常大的数.在1877年的论文中，玻尔兹曼发现了微观状态数与宏观系统的克劳修斯熵之间的关系，并用下面这个关系式把它们联系了起来：

组合与组合数公式
微观状态：系统中每一个微粒的各种状态量，比如位置，动量等.
宏观状态：系统的宏观描述，比如P，V，或者速率在某一范围内的粒子数量等.
一般来说，宏观状态包含了大量的微观状态.例如，一个容器内含有2个气体分子，我们想确认这两个气体分子在容器的左边还是右边，

宏观状态：3种：一左一右，左左，右右
微观状态：4种：LL， RR， LR， RL
3个分子时，
宏观状态：4种
微观状态：8种：LLL， (LLR， LRL， RLL)， (LRR， RLR， RRL)， RRR
4个分子时，
宏观状态：5种
微观状态：16种：(all L) (3L， 1R) (2L， 2R) (1L， 3R) (all R)

左上表可以用组合数来给出，即从N个元素中任意拿出2个，一共有多少种组合，

玻尔兹曼常数
原体积为
，在更小的体积
中找到一个气体分子的概率与体积成正比，

在
中找到N个气体分子的概率是找到每1个分子的概率的乘积

取对数得

对理想气体，
（自己计算过程，理想气体状态方程：
）,则

使用对数的原因是：1.使熵具有合理的大小；2.有利于两个状态的合并.
1990年，物理学家普朗克引进了一个比例系数，将上式写为
.这就是我们现在习惯使用的玻尔兹曼熵公式，其中
焦耳/开.为了纪念玻尔兹曼，我们把它称为玻尔兹曼常数.
根据玻尔兹曼熵公式，熵越大，W也就越大，即微观态数越多，也就是说，分子可以处在更多的微观状态.从宏观上看，整个系统就越混乱越无序.由此，我们可以看出熵的微观意义：熵是分子运动或排列混乱程度的衡量尺度，或者说，熵是系统内分子热运动无序性的量度.
玻尔兹曼熵公式直接沟通了热力学系统的宏观与微观之间的关联，并对热力学第二定律进行了微观解释.原来，热力学第二定律仅仅表明，如果没有外界的干涉，一个孤立的系统总是会越来越混乱.正像懒人的房间，如果没有人替他收拾打扫，只会越来越杂乱下去，决不会自然变得整齐起来.
熵是系统无序性的量度.无序性可以用不可以使用的能量来表示.自发发生的过程始终向增加系统无序性的方向发生.两个温度不同的物体组成的系统比两个温度相同的物体组成的系统呈现出更高的有序性.有序性与组成物体A，B的每个原子的平均动能有联系.如果系统A的温度更高则它的原子的能量更高.如果他们相互有热的接触，则能量会从更高能量的系统流向更低能量的系统，使合成的系统的能量更加均匀地分配，比如，更加无序.所以系统的无序性就会增加.因此我们说熵增加了.但是增加无序性的过程使得从A传递到B的能量可以用于其它目的的可能性被取消了removed，比如在这两个温度不同的物体间操作热机做功的可能性因为增加无序性的过程而成为不可能，所以尽管在温度从高温物体转移到低温物体的过程中能量是守恒的，但是熵的增加导致系统无序性从而用来做功的能量减小了.

有关回应 · 2021-5-31 19:41:35

在热学现象中，或者说在整个宇宙的物理过程中，还有一条很重要的定律，叫做「熵增定律」。熵增这件事，在热力学中有个专有名词，叫做热力学第二定律。
用一句话总结「熵增定律」：世界只会变得越来越乱。用四个字就是：覆水难收。
可能有些人不信邪。比如说，《哈利波特》这部魔幻小说就是这样，还记得里面角色都有的魔法棒吗？魔法棒很魔幻，有一次邓布利多带着哈利波特去找一个变成沙发的朋友，看到房间乱糟糟的，用魔法棒一挥，房间登时被整理得干干净净。还有一次，哈利波特用魔法棒指着一潭水，那潭水很快就结成了冰。我们之所以觉得这些事情魔幻，是因为它们都违反了「熵增定律」。
熵是什么东西呢？可以理解为一个物理系统的混乱度。将魔法棒和乱糟糟的房间加在一起，是一个物理系统，这个系统怎么会从乱糟糟变得整整齐齐呢？我们下面还会说道。而同样的温度，液体水比冰的混乱度要大，魔法棒是不可能将水变成冰的。
不信的话，我们不妨回忆一个我们经常遇到的情况。现在我们都是低头族，不论是大人还是小孩，没事就捧着手机。和手机相关的耳机线，经常给我们带来不愉快的麻烦：我们本来将整理得好好的耳机线放在口袋里，不出意外，每次从口袋里掏出它，它又变得乱糟糟的。
但你有没有见过这种事情发生？一团乱麻一样的耳机线放进口袋里，掏出来的时候变整齐了。我跟你打一块钱的赌，你肯定从来没有见过这种事情。同样，一个乱糟糟的房间，如果我们不去耐心地慢慢整理，才不会用魔法棒一挥，变得整整齐齐的。
再举一个例子，一只杯子掉到地上，水撒出来了，渗入地板，杯子碎了。我们从来没有见过相反的情况，一只杯子的碎片会自动合拢成一个完整的杯子，地板中的水跳回杯子中，杯子再从地板上跳回桌子上。这意味着什么？这意味着我们的世界是一部电影，它从来是向着一个方向放映，而不是倒着放映。也就是说，时间有一个箭头，是不可逆的。
其实，中国古人早就注意到了，成语「覆水难收」讲的就是这个现象。这个成语来自汉代的一个故事。汉景帝的时候，有一个穷书生叫朱买臣，娶了个妻子崔氏，平时除了读书就是砍柴。后来，崔氏实不了过不了贫穷的生活，要和朱买臣离婚，朱买臣没有办法，只好离婚了。到了汉景帝的儿子汉武帝即位，没过几年，朱买臣得到了汉武帝的赏识，做了会稽太守。崔氏得知这个消息，蓬头垢面跑到朱买臣面前，请求他允许自己回到朱家。朱买臣让人端来一盆清水泼在马前，告诉崔氏，若能将泼在地上的水收回盆中，他就答应她回来。当然，这件事是做不到的。
那么，物理学家是怎么总结这些现象的？
使用 App 查看完整内容目前，该付费内容的完整版仅支持在 App 中查看
App 内查看

有关回应 · 2021-5-31 19:41:36

只有当你所使用的那个特定系统中的能量密度参差不齐的时候，能量才能够转化为功，这时，能量倾向于从密度较高的地方流向密度较低的地方，直到一切都达到均匀为止。正是依靠能量的这种流动，你才能从能量得到功。

江河发源地的水位比较高，那里的水的势能也比河口的水的势能来得大。由于这个原因，水就沿着江河向下流入海洋。要不是下雨的话，大陆上所有的水就会全部流入海洋，而海平面将稍稍升高。总势能这时保持不变。但分布得比较均匀。

正是在水往下流的时候，可以使水轮转动起来，因而水就能够做功。处在同一个水平面上的水是无法做功的，即使这些水是处在很高的高原上，因而具有异常高的势能，也同样做不了功。在这里起决定性作用的是能量密度的差异和朝着均匀化方向的流动。

不管对哪一种能量来说，情况都是如此。在蒸汽机中，有一个热库把水变成蒸汽，还有一个冷库把蒸汽冷凝成水。起决定性作用的正是这个温度差。在任何单一的、毫无差别的温度下——不管这个温度有多高——是不可能得到任何功的。

“熵”是德国物理学家克劳修斯在 1850 年创造的一个术语，他用它来表示任何一种能量在空间中分布的均匀程度。能量分布得越均匀，熵就越大。如果对于我们所考虑的那个系统来说，能量完全均匀地分布，那么，这个系统的熵就达到最大值。

在克劳修斯看来，在一个系统中，如果听任它自然发展，那么，能量差总是倾向于消除的。让一个热物体同一个冷物体相接触，热就会以下面所说的方式流动：热物体将冷却，冷物体将变热，直到两个物体达到相同的温度为止。如果把两个水库连接起来，并且其中一个水库的水平面高于另一个
水库，那么，万有引力就会使一个水库的水面降低，而使另一个水面升高，直到两个水库的水面均等，而势能也取平为止。

因此，克劳修斯说，自然界中的一个普遍规律是：能量密度的差异倾向于变成均等。换句话说，“熵将随着时间而增大”。对于能量从密度较高的地方向密度较低的地方流动的研究，过去主要是对于热这种能量形态进行的。因此，关于能量流动和功－能转换的科学就被称为“热力学”，这是从希腊文“热运动”一词变来的。

人们早已断定，能量既不能创造，也不能消灭。这是一条最基本的定律；所以人们把它称为“热力学第一定律”。克劳修斯所提出的熵随时间而增大的说法，看来差不多也是非常基本的一条普遍规律，所以它被称为“热力学第二定律”。

以上答案摘自阿西莫夫

你知道吗现代科学中的100个问题

复制代码

有关回应 · 2021-5-31 19:41:37

第一次接触到熵这个名词是高三的一篇课文《熵，一种新的世界观》，当时印象太深刻了，可以说是第一次知道所有知识都可以联系起来，数学和哲学，等等…直接引用这篇文章节选，手机版没引用，就直接粘贴了。

热力学概念乍听起来有些深不可测，其实它们是我们所知道的最简单而又给人印象最深的科学概念。热力学的两个定律可以用一句简短的句子来表达：
宇宙的能量总和是个常数，总的熵是不断增加的。
这也就是说我们既不能创造，也不能消灭能量。宇宙中的能量总和一开始便是固定的，而且永远不会改变。热力学第一定律就是能量守恒定律，它告诉我们能量虽然既不能被创造又不能被消灭，但它可以从一种形式转化为另一种形式。
我们应该牢记的最重要的一点，就是我们不能创造能量。从来就没人创造过能量，也永远不会有人能创造。我们力所能及的只是把能量从一种状态转化成另一种状态。要理解这一点不甚容易，特别是考虑到一切都是由能量所生成的。世间万物的形态、结构和运动都不过是能量的不同聚集与转化形式的具体表现而已。一个人、一幢摩天大楼、一辆汽车或一棵青草，都体现了从一种形式转化成为另一种形式的能量。高楼拔地而起，青草的生成，都耗费了在其他地方聚集起来的能量。高楼夷为平地，青草也不复生长，但它们原来所包含的能量并没有消失，而只是被转移到同一环境的其他所在去了。我们都听说过这么一句话：太阳底下没有新鲜东西[3]。要证实这一点你只需呼吸一下。你刚才吸进了曾经让柏拉图[4]吸进过的5 000万个分子。
如果我们需要考虑的仅仅是热力学第一定律，那我们滥用那万世不竭的能源也没有什么奥妙了。然而我们知道世界并非如此。比如我们烧掉一块煤，它的能量虽然并没有消失，但却经过转化随着二氧化碳和其他气体一起散发到空间中去了。虽然燃烧过程中能量并没有消失，但我们却再也不能把同一块煤重新烧一次来做同样的功了。热力学第二定律解释了这个现象。它告诉我们每当能量从一种状态转化到另一种状态时，我们会“得到一定的惩罚”。这个惩罚就是我们损失了能在将来用于做某种功的一定能量。这就是所谓的熵。
熵是不能再被转化做功的能量的总和的测定单位。这个名称是由德国物理学家鲁道尔夫·克劳修斯[5]于1868年第一次造出来的。但是年轻的法国军官沙迪·迦诺[6]却比克劳修斯早41年发现了熵的原理。迦诺在研究蒸汽机工作原理时发现，蒸汽机之所以能做功，是因为蒸汽机系统里的一部分很冷，而另一部分却很热。换一句话说，要把能量转化为功，一个系统的不同部分之间就必须有能量集中程度的差异(即温差)。当能量从一个较高的集中程度转化到一个较低的集中程度(或由较高温度变为较低温度) 时，它就做了功。更重要的是每一次能量从一个水平转化到另一个水平，都意味着下一次能再做功的能量就减少了。比如河水越过水坝流入湖泊。当河水下落时，它可被用来发电，驱动水轮，或做其他形式的功。然而水一旦落到坝底，就处于不能再做功的状态了。在水平面上没有任何势能的水是连最小的轮子也带不动的。这两种不同的能量状态分别被称为“有效的”或“自由的”能量，和“无效的”或“封闭的”能量。
熵的增加就意味着有效能量的减少。每当自然界发生任何事情，一定的能量就被转化成了不能再做功的无效能量。被转化成了无效状态的能量构成了我们所说的污染。许多人以为污染是生产的副产品，但实际上它只是世界上转化成无效能量的全部有效能量的总和。耗散了的能量就是污染。既然根据热力学第一定律，能量既不能被产生又不能被消灭，而根据热力学第二定律，能量只能沿着一个方向——即耗散的方向——转化，那么污染就是熵的同义词。它是某一系统中存在的一定单位的无效能量。

「熵」是什么？怎样以简单易懂的方式向其他人解释？

5 个回复

浏览过的版块

「熵」是什么？ 怎样以简单易懂的方式向其他人解释？

5 个回复

浏览过的版块

「熵」是什么？怎样以简单易懂的方式向其他人解释？