エントロピーは加熱、固体の融解、気化、液体の気化、気体の膨張の際に増加する。つまり、エントロピーは粒子の乱雑さの尺度とみなされる。ボルツマンは系統学的なエントロピーを次のように定義した。
\[ S=\kappa\ln W = \frac{R}{L} \ln W \]ここで、κ はボルツマン定数で、R は理想気体の気体定数、L はアボガドロ数、W は与えられた気温 T、圧力 P、体積 V の条件における粒子系が到達可能な配置数を表す。たとえば、4 つの格子点への 2 個の等価な球の分配について考えてみる。この場合、配置数は 4C2 = 6 通りである。したがって、この場合 W = 6 である。2 個の球は熱運動により格子点上をランダムに移動するので、6 通りの配置はほぼ同じ確率で取りうる。
ここで、この考え方を一般化すると、気体が入ってる容器を単位体積 v で分割する。容器の中に 1 個の球が存在するとき、V1 の配置数は V1 / v である。また、粒子間に引力、斥力などが働かず、各単位体積に入る粒子の数が無制限であるとすると、粒子はまったく独立であるから配置数は
\[ \frac{{\left(\frac{V_1}v\right)}^N}{N!} \]となる。同様にして V2 に対する配置数は、
\[ \frac{{\left(\frac{V_2}v\right)}^N}{N!} \]となる。
したがって、気体 V1 → V2 へと変化したときに生じエントロピーの変化は、
\[ \Delta S=k{\left(\ln{\left(\frac{N_2}v\right)}^N-\ln{(\frac{N_1}v)}^N \right)}=Nk\ln\frac{V_2}{V_1}=nR\ln\frac{V_2}{V_1} \]