Статистична сутність ентропії

Розглянемо випадок, коли у нас є чотири кулі – A, B, C, D. Будемо розподіляти їх по двох коробках. Число різних способів розподілу чотирьох куль у дві коробки дорівнює 2⁴.

Є шістнадцять способів або комбінацій розміщення куль, та якщо кулі розподіляються випадковим чином кожний спосіб має однакову ймовірність появи. Таким чином, всі чотири кулі мають стільки ж шансів опинитися в коробці 2, як і поділитися порівну між коробками 1 і 2.

Однак, якщо ми проаналізуємо шістнадцять способів, якими кулі можуть розподілятися між двома коробками, ми побачимо, що імовірність досягнення рівномірного розподілу куль по коробках (по дві кульки в кожній коробці) більше ймовірності будь-якого іншого розподілу. Підрахуємо:

Імовірність знаходження 4 кулі в коробці 1 1 : 16

3 кулі в коробці 1 і 1 куля в коробці 2 4 : 16

2 кулі в кожній коробці 6 : 16

1 куля у коробці 1 і 3 кулі в коробці 2 4 : 16

4 кулі в коробці 2 1 : 16

Ймовірність третього способу максимальна.

Для шести куль, загальне число способів розподілу 2⁶ = 64, а ймовірність рівномірного розподілу (по 3 кулі в кожній коробці) максимальна – 20:64.

Для десяти куль ймовірність знайти всі 10 куль в коробці 1 буде 1 : 1024, а ймовірність знаходження 5 кульок в кожній коробці 252 : 1024. Для двадцяти куль ймовірність знайти всі 20 куль в одній коробці буде 1 : 1048576, а ймовірність знаходження по 10 куль в кожній коробці 184756 : 1048576. Ці приклади ілюструють досить ефектно, що шанси на отримання більш випадкового розподілу куль збільшується значно, якщо кількість куль збільшено з чотирьох до всього двадцяти. Дійсно, для 20 куль шансів знайти всі 20 в одній конкретній коробці практично не існує – 1 на мільйон.

Подібний аргумент може бути застосований до змішування двох газів, які спочатку відокремлені один від одного перегородкою. Якщо перегородка видалена, гази змішуються швидко, але зворотний процес розшарування двох газів ніколи не спостерігається. Це тому, що ймовірність рівномірного розподілу максимальна. Принципово не виключена можливість того, що всі молекули зберуться разом, але ймовірність такого розподілу настільки мала, що він ніколи не відбувається. Ентропія при рівномірному розподілі максимальна, отже вона пов’язана з ймовірністю. Найбільш ймовірний розподіл має найвищу ентропію. Статистичне визначення ентропії дається рівнянням Больцмана:

S = k lnw, (2.57)

де k – постійна Больцмана (газова постійна на молекулу, або R/N_o, де R є газова стала, а N_о – число Авогадро), w – ймовірність даного розподілу і S – ентропія. Відповідно до визначення, ентропія має розмірність енергії / температуру×моль, оскільки k = 1.3804∙10^-23 Дж∙K^-1. Термодинамічне визначення ентропії призводить до такої ж розмірності. Це основне рівняння статистичної термодинаміки.

Зі збільшенням числа атомів ймовірність абсолютно випадкового або невпорядкованого розподілу атомів також зростає. Цей рівномірний розподіл можна розглядати як найбільш випадковий стан, який має найвищу ентропію. Ентропія, отже, є мірою випадковості або безладу в системі.