Метод максимума правдоподобия

Метод максимального правдоподобия состоит в том, что в качестве «наиболее правдоподобного» значения параметра берут значение , максимизирующее вероятность получить при опытах данную выборку . Это значение параметра зависит от выборки и является искомой оценкой.

Определение: Функция (случайная величина при фиксированном )

называется функцией правдоподобия.

Определение: Функция

называется логарифмической функцией правдоподобия.

Определение: Оценкой максимального правдоподобия неизвестного параметра называют значение , при котором функция достигает максимума (как функция от при фиксированных ):

Пример. Пусть - выборка объема из распределения Пуассона , где . Найдем ОМП неизвестного параметра .

Поскольку эта функция при всех непрерывно дифференцируема по , можно искать точки экстремума, приравняв к нулю частную производную по . Но удобнее это делать для логарифмической функции правдоподобия:

Тогда

и точка экстремума - решение уравнения: , то есть .

Задание для самостоятельной работы:

1. Убедиться, что - точка максимума, а не минимума.

2. Убедиться, что совпадает с одной из оценок метода моментов.

Рекомендуемая литература: 3; 4; 5