熱力学第二法則は、エントロピーは常に増大する、という。
放って置くと、物事はすべて確率の高い状態に向かってゆく(ガウス関数、正規分布)。
沸騰したやかんを寒い部屋に放置すると、部屋は少し暖かくなり、やかんはさめる。つまり、熱は可能な限り平均化される方向に向かう物理量である。
私は、「エントロピーは常に増大する」の意味を勘違いしていた。これを無限大に拡散していくというイメージとして捉えていた。
しかし、「エントロピーは常に増大する」は、実際には、情報量がゼロに向けて収束していく、可能な限り平均化される方向に向かう、つまり、すべてが一様になる方向へと進むことである、
例えで言えば、オセロゲームで、すべてのコマが一つの色(例えば、黒)になってしまうことである、あらゆるものの個性が完全に消えてそこには何ら違い(この「違い」こそが情報である!!!!)が消滅してしまうことである。
エントロピーの最大値は、ある系でのあらゆる「違いがゼロ」になった点である。
生物とは、この違いを検出して、それに対処しようとする。
「脳の方程式いち・たす・いち」(by中田力from紀伊國屋書店)から抜粋引用し、私的意見を添えています。