Лекция 4
Оценяване на параметри

Тук ще дадем само някои елементи на теорията на точковите оценки. Ще определим някои техни приятни качества - неизместеност, ефективност и състоятелност. Ще покажем, че неизместените оценки с минимална дисперсия са единствени. Ще докажем знаменитото неравенство на Рао - Крамер.

В цялата лекция ще предполагаме, че наблюденията са извършени над сл.в. с плътност на разпределение f(x,q) известна с точност до неизвестен параметър q.

4.1  Определения

Определение 1 Казваме, че статистиката [^(q)] = [^(q)](x1,x2,...,xn) е оценка на параметъра q, ако [^(q)] не зависи от стойността на параметъра.

Определение 2 Казваме, че оценката [^(q)] = [^(q)](x1,x2,...,xn) на параметъра q е неизместена, ако E[^(q)] = q.

Разбира се, в това определение се счита, че математическото очакване се смята при стойност на неизвестния параметър точно равна на q. Да разгледаме статистиката [`(x)] . Тя очевидно е неизместена оценка на математическото очакване при произволно разпределение на генералната съвкупност.

Определение 3 Казваме, че оценката [^(q)] на параметъра q е ефективна, ако е с минимална дисперсия сред всички неизместени оценки на този параметър.

Определение 4 Казваме, че редицата от статистики [^(q)]n е състоятелна оценка на параметъра q, ако [^(q)]n ® q при увеличаване на броя n на наблюденията.

Съществува и по - силен вариант, строга състоятелност, където сходимостта е п.с.

4.2  Неизместени оценки с минимална дисперсия (н.о.м.д.)

В тази секция ще докажем две теореми за неизместените оценки, които отразяват тяхното значение.

Теорема 1 (Рао - Блекуел) Неизместената оценка с минимална дисперсия (н.о.м.д.) е единствена (п.с.).

Доказателство: Следва лесно от свойствата на проекцията. Достатъчно е да определим върху всички оценки Хилбертово пространство със скаларно произведение (U,V) = E UV и да разгледаме афинното подпространство на неизместените оценки: E V = q. Нека сега V е н.о.м.д. Да допуснем че съществува друга неизместена оценка U. Нека H = U-V. Тогава

E (V+lH) = q,
т.е. оценката V+lH е неизместена.

||V+lH - qE||2 = ||V-qE||2 +2lE H(V-qE) + ||H||2l2.

Тъй като V е н.о.м.д., горната квадратична функция на l трябва да има минимум при l = 0. Ако V е също с минимална дисперсия, то тогава ||H|| = 0 и двете оценки съвпадат п.с. Q.E.D.

4.3  Неравенство на Рао - Крамер

Тук ще предполагаме, че наблюдаваната сл.в. притежава плътност и ще докажем едно знаменито неравенство.

Определение 5 Наричаме функция на правдоподобие f(x,q) плътността на наблюдаваната сл.в. x, когато тя зависи от неизвестен параметър.

Теорема 2 (Рао - Крамер) Ако q е едномерен параметър и

  1. f(x,q) > 0,    x О X ;
  2. f(x,q) притежава производни по q,     x О X;
  3. съществува E (([(logf)/( q)])2) < Ґ
  4. [^(q)] е неизместена оценка на q, такава че E [^(q)]2 < Ґ,

то е валидно следното неравенство:

D( ^
q
 
 ) і 1
E (( logf(x,q)
q
 )2)
 .
(4.1)
При това, равенство се достига само ако
logf(x,q)
q
 = k(q)( ^
q
 
 -q).
(4.2)

Доказателство: В следващите сметки ще използуваме равенството:

logf
q
 = f
q
 / f,
което е изпълнено винаги, когато функцията f е положителна. Първо да покажем, че съществува следният интеграл:
у
х

X 
 ^
q
 
 f(x,q)
q
 dx = у
х

X 
 ^
q
 
 Ц
f(x,q)
 
 logf(x,q)
q
 Ц
f(x,q)
 
 dx Ј
(E | ^
q
 
 2
 
 |)1/2(E (( logf
q
 )2))1/2 < Ґ.
Тогава можем да диференцираме по q двата интеграла:
q
 у
х

X 
 f(x,q) dx = у
х

X 
 f(x,q)
q
 dx = E  logf(x,q)
q
 = 0.
(4.3)
q
 E( ^
q
 
 ) =
q
 у
х

X 
 ^
q
 
 (x)f(x,q) dx = у
х

X 
 ^
q
 
 f(x,q)
q
 dx = E  ^
q
 
 logf(x,q)
q
 = 1.
Тогава имаме:
1 = у
х

X 
 ( ^
q
 
 -q) logf(x,q)
q
 f(x,q)dx = E ( ^
q
 
 -q) logf(x,q)
q
 Ј
D( ^
q
 
 )1/2(E ( logf
q
 )2)1/2.
Неравенството следва веднага след вдигане на квадрат. Обратно, когато се достига равенство двете подинтегрални функции трябва да са пропорционални. Това значи, че съществува константа по x (може би зависеща от q) k(q), така че е изпълнено равенство (4.2). Q.E.D.

Горните две теореми дават лесно средство за проверка на ефективността на оценките - достатъчно е да се достигне равенство в неравенството на Рао - Крамер,т.е. да бъде изпълнено равенството (4.2).

Пример 1 Докажете, че в случая с пример (3.4) оценката [`(x)] е ефективна и строго състоятелна оценка на математическото очакване.



Начало на лекцията | Съдържание | Индекс

File translated from TEX by TTH, version 2.10.
On 5 Apr 1999, 17:47.