Phương pháp khả năng tối đa cho phân phối chuẩn. Các phương pháp thu được ước tính

Nhiệm vụ của việc ước lượng các tham số phân bố là thu được những ước tính hợp lý nhất về các tham số chưa biết của phân bố tổng thể dựa trên dữ liệu mẫu. Ngoài phương pháp mômen, để xác định ước lượng điểm của tham số phân bố, chúng tôi còn sử dụng phương pháp khả năng tối đa. Phương pháp khả năng tối đa được nhà thống kê người Anh R. Fisher đề xuất vào năm 1912.

Giả sử, để ước lượng tham số  chưa biết của biến ngẫu nhiên X từ tổng thể với mật độ phân bố xác suất P(x)= P(x, ) mẫu được chiết x 1 ,x 2 ,…,x N. Chúng tôi sẽ coi kết quả mẫu là việc thực hiện N-biến ngẫu nhiên chiều ( X 1 ,X 2 ,…,X N). Phương pháp mômen được thảo luận trước đây để thu được ước tính điểm của các tham số chưa biết của phân bố lý thuyết không phải lúc nào cũng cung cấp ước tính tốt nhất. Phương pháp tìm kiếm ước tính có các thuộc tính cần thiết (tốt nhất) là phương pháp khả năng tối đa.

Phương pháp khả năng tối đa dựa trên điều kiện xác định cực trị của một hàm nhất định, được gọi là hàm khả năng.

Hàm khả năng DSV X

L (x 1 ,x 2 ,…,x N ; )=P(x 1 ; )P(x 2 ; )…P(x N ; ),

Ở đâu x 1, …, x N– các phương án lấy mẫu cố định,  tham số ước tính chưa biết, P(x Tôi; ) – xác suất của sự kiện X= x Tôi .

Hàm khả năng NSV Xđược gọi là hàm đối số :

L (x 1 ,x 2 ,…,x N ; )=f(x 1 ; )f(x 2 ; )…f(x N ; ),

Ở đâu f(x Tôi; ) – hàm mật độ xác suất cho trước tại các điểm x Tôi .

Là ước tính điểm của các tham số phân phối  lấy giá trị của nó tại đó hàm khả năng đạt cực đại. Sự đánh giá
gọi điện ước tính khả năng tối đa. Bởi vì chức năng L
L
đạt cực đại ở cùng giá trị , sau đó thường tìm cực trị (cực đại) mà chúng sử dụng
L
như một tính năng thuận tiện hơn.

Để xác định điểm tối đa
L
bạn cần sử dụng một thuật toán nổi tiếng để tính cực trị của hàm:


Trong trường hợp mật độ xác suất phụ thuộc vào hai tham số chưa biết -  1 và  2, thì các điểm tới hạn được tìm thấy bằng cách giải hệ phương trình:

Vì vậy, theo phương pháp khả năng tối đa, như ước tính của tham số chưa biết  giá trị * được lấy tại đó
phân phối mẫu x 1 ,x 2 ,…,x N tối đa.

Nhiệm vụ 8. Chúng ta hãy tìm ước tính bằng phương pháp khả năng tối đa cho xác suất P trong sơ đồ Bernoulli,

Hãy thực hiện N các thử nghiệm lặp đi lặp lại độc lập và đo lường số lần thành công mà chúng tôi biểu thị tôi. Theo công thức Bernoulli, xác suất sẽ có tôi thành công từ N–– là hàm khả năng của DSV.

Giải pháp : Hãy tạo một hàm khả năng
.

Theo phương pháp khả năng tối đa, chúng tôi tìm thấy một giá trị như vậy P, tối đa hóa L, và cùng với nó là ln L.

Sau đó lấy logarit L, chúng ta có:

Đạo hàm của hàm ln L Qua P trông giống như
và tại điểm cực trị nó bằng 0. Vì vậy, giải phương trình
, chúng tôi có
.

Hãy kiểm tra dấu của đạo hàm bậc hai
tại điểm kết quả:

. Bởi vì
đối với bất kỳ giá trị nào của đối số thì giá trị tìm được P có một điểm tối đa.

Có nghĩa, – ước tính tốt nhất cho
.

Vì vậy, theo phương pháp khả năng tối đa, ước tính xác suất P sự kiện MỘT trong sơ đồ Bernoulli, tần suất tương đối của sự kiện này được sử dụng .

Nếu mẫu x 1 , x 2 ,…, x Nđược trích xuất từ ​​một tổng thể có phân bố chuẩn, sau đó ước lượng kỳ vọng và phương sai toán học bằng phương pháp khả năng tối đa có dạng:

Các giá trị tìm được trùng với ước tính của các tham số này thu được bằng phương pháp mômen.
Bởi vì Vì độ phân tán bị dịch chuyển nên nó phải được nhân với hiệu chỉnh Bessel. Sau đó cô ấy sẽ trông giống như

, trùng với phương sai mẫu. 9 Nhiệm vụ
. Cho phân phối Poisson tôi= x Tôiở đâu
chúng tôi có .

Giải pháp :

. Chúng ta hãy tìm ước tính của tham số chưa biết bằng phương pháp khả năng tối đa L Bằng cách xây dựng hàm khả năng L và logarit của nó ln

. Chúng tôi có: Hãy tìm đạo hàm của L:
ln
và giải phương trình . Kết quả ước tính của tham số phân phối
sẽ có dạng:
Sau đó
bởi vì Tại
đạo hàm riêng thứ hai

thì đây là điểm tối đa. Do đó, giá trị trung bình mẫu có thể được lấy làm ước tính về khả năng tối đa của tham số  đối với phân bố Poisson.
Có thể chứng minh rằng phân phối mũ x 1 , x 2 , …, x N hàm khả năng cho các giá trị mẫu

.

có dạng:
.

Ước tính của tham số phân phối  cho phân bố mũ bằng:

Ưu điểm của phương pháp khả năng tối đa là khả năng thu được các ước tính “tốt” có các đặc tính như tính nhất quán, tính quy chuẩn tiệm cận và hiệu quả đối với các mẫu lớn trong các điều kiện tổng quát nhất.

Tìm thấy

Phương pháp khả năng tối đa.

Đối với thời gian thất bại ngẫu nhiên với mật độ xác suất f(t, ), hàm khả năng được xác định theo công thức 12.11: , tức là là mật độ xác suất chung của các phép đo độc lập của biến ngẫu nhiên τ với mật độ xác suất f(t, ).

Nếu biến ngẫu nhiên là rời rạc và nhận các giá trị Z 1, Z 2..., tương ứng với các xác suất P 1 (α), P 2 (α) ..., thì hàm khả năng được lấy ở dạng khác, cụ thể là: , trong đó các chỉ số xác suất chỉ ra rằng các giá trị đã được quan sát.

Ước tính khả năng tối đa của tham số được xác định từ phương trình khả năng (12.12).

Giá trị của phương pháp khả năng tối đa được xác định bởi hai giả định sau:

Nếu có một ước tính hiệu quả cho tham số thì phương trình khả dĩ (12.12) có nghiệm duy nhất.

Trong những điều kiện chung nhất định có tính chất phân tích áp đặt lên các chức năng f(t, ) nghiệm của phương trình khả năng hội tụ về giá trị thực của tham số.

Hãy xem xét một ví dụ về việc sử dụng phương pháp khả năng tối đa cho các tham số phân phối chuẩn.

Ví dụ:

Chúng tôi có: , , t tôi (i=1..N) một mẫu từ một quần thể có phân bố mật độ.

Chúng ta cần tìm ước tính về độ tương tự tối đa.

Chức năng khả năng: ;

.

Phương trình khả năng: ;

;

Nghiệm của các phương trình này có dạng: - trung bình thống kê; - độ phân tán thống kê. Ước tính này bị sai lệch. Một ước tính khách quan sẽ là: .

Nhược điểm chính của phương pháp khả năng tối đa là những khó khăn tính toán phát sinh khi giải các phương trình khả năng, theo quy luật, là siêu việt.

Phương pháp khoảnh khắc.

Phương pháp này do K. Pearson đề xuất và là phương pháp tổng quát đầu tiên để ước tính điểm của các tham số chưa biết. Nó vẫn được sử dụng rộng rãi trong thống kê thực tế vì nó thường dẫn đến quy trình tính toán tương đối đơn giản. Ý tưởng của phương pháp này là các khoảnh khắc phân bố, tùy thuộc vào các tham số chưa biết, được đánh đồng với các khoảnh khắc thực nghiệm. Lấy số mô men bằng số tham số chưa biết và lập các phương trình tương ứng, ta thu được số phương trình cần tìm. Hai điểm thống kê đầu tiên thường được tính toán nhiều nhất: giá trị trung bình mẫu; và phương sai mẫu . Các ước tính thu được bằng phương pháp mô men không phải là tốt nhất về mặt hiệu quả. Tuy nhiên, chúng rất thường được sử dụng làm xấp xỉ đầu tiên.

Hãy xem một ví dụ về việc sử dụng phương pháp khoảnh khắc.

Ví dụ: Xét phân bố mũ:

t>0; λ<0; t i (i=1..N) – mẫu từ một quần thể có mật độ phân bố. Chúng ta cần tìm ước lượng cho tham số λ.

Hãy lập một phương trình: . Vì vậy, nếu không.

Phương pháp lượng tử.

Đây là phương pháp thực nghiệm giống như phương pháp khoảnh khắc. Nó bao gồm thực tế là các phân vị của phân bố lý thuyết bằng với các phân vị thực nghiệm. Nếu một số tham số cần được đánh giá thì các đẳng thức tương ứng được viết cho một số lượng tử.

Chúng ta hãy xem xét trường hợp khi luật phân phối F(t,α,β) với hai tham số chưa biết α, β . Hãy để chức năng F(t,α,β) có mật độ khả vi liên tục lấy giá trị dương cho mọi giá trị tham số có thể có α, β. Nếu việc kiểm tra được thực hiện theo kế hoạch , r>>1, thì thời điểm xảy ra sự cố thứ có thể được coi là một lượng tử thực nghiệm của cấp độ, tôi = 1,2… , - hàm phân phối thực nghiệm. Nếu như tôit r – thời điểm xảy ra sự cố thứ l và thứ r được biết chính xác, giá trị các tham số α β có thể được tìm thấy từ các phương trình

Ngoài phương pháp mômen được mô tả ở đoạn trước, còn có các phương pháp khác để ước tính điểm của các tham số phân bố chưa biết. Chúng bao gồm phương pháp khả năng tối đa do R. Fisher đề xuất.

A. Biến ngẫu nhiên rời rạc. Cho phép X - biến ngẫu nhiên rời rạc, kết quả là N các bài kiểm tra lấy giá trị X 1 ,X 2 , ...,X N . Chúng ta hãy giả sử rằng dạng của luật phân bố số lượng X được chỉ định, nhưng tham số không xác định θ , xác định định luật này. Chúng ta cần tìm ước lượng điểm của nó.

Hãy để chúng tôi biểu thị xác suất mà theo kết quả của thử nghiệm, giá trị X sẽ lấy giá trị X Tôi (Tôi= 1 , 2, . . . , N), bởi vì P(X Tôi ; θ ).

Hàm khả năng của một biến ngẫu nhiên rời rạccấp bậcX gọi hàm đối số θ :

L (X 1 , X 2 , ..., X N ; θ ) = P (X 1 ; θ ) r(X 2 ; θ ) . . . P (X N ; θ ),

Ở đâu X 1 ,X 2 , ...,X N - số cố định.

Là ước tính điểm của tham số θ hiểu ý nghĩa này θ * = θ * (X 1 , X 2 , ..., X N), tại đó hàm khả năng đạt cực đại. Sự đánh giá θ * gọi ước tính khả năng tối đa

Chức năng L và tôi Lđạt cực đại ở cùng một giá trị θ , do đó, thay vì tìm cực đại của hàm L tìm (thuận tiện hơn) giá trị lớn nhất của hàm ln L.

Chức năng ghi nhật ký gọi hàm ln L. Như đã biết, điểm cực đại của hàm ln L lý lẽ θ Bạn có thể tìm kiếm, ví dụ như thế này:

3) tìm đạo hàm bậc hai; nếu đạo hàm bậc hai tại θ = θ * là số âm thì θ * - điểm tối đa.

Điểm cực đại tìm được θ * được lấy làm ước tính khả năng tối đa của tham số θ .

Phương pháp khả năng tối đa có một số ưu điểm: nói chung, ước tính khả năng tối đa là nhất quán (nhưng chúng có thể bị sai lệch), phân bố tiệm cận bình thường (đối với các giá trị lớn). N xấp xỉ bình thường) và có phương sai nhỏ nhất so với các ước lượng tiệm cận bình thường khác; nếu với tham số ước tính θ có sự đánh giá hiệu quả θ * thì phương trình khả dĩ có nghiệm duy nhất θ *; Phương pháp này tận dụng tối đa dữ liệu mẫu về tham số được ước lượng nên đặc biệt hữu ích trong trường hợp mẫu nhỏ.

Nhược điểm của phương pháp là thường đòi hỏi tính toán phức tạp.

Lưu ý 1. Hàm khả năng - hàm của đối số θ ; ước tính khả năng tối đa - chức năng của các đối số độc lập X 1 ,X 2 , ...,X N .

Lưu ý 2.Ước tính khả năng tối đa không phải lúc nào cũng trùng với ước tính tìm được bằng phương pháp mô men.

Ví dụ 1.λ Phân bố Poisson

Ở đâu tôi- số lượng thử nghiệm được thực hiện; x Tôi - số lần xuất hiện của sự kiện trong Tôi-m ( Tôi=1, 2, ..., N) kinh nghiệm (kinh nghiệm bao gồm T các bài kiểm tra).

Giải pháp. Chúng ta hãy xây dựng một hàm khả năng, có tính đến điều đó. θ= λ :

L = P (X 1 ; λ :) P (X 2 ; λ :) . . .P (X N ; λ :),=

.

Hãy viết phương trình khả năng mà chúng ta đánh đồng đạo hàm bậc nhất bằng 0:

Chúng ta hãy tìm điểm tới hạn mà chúng ta giải phương trình kết quả cho λ:

Hãy tìm đạo hàm bậc hai đối với λ:

Dễ dàng thấy rằng với λ = đạo hàm bậc hai là âm; do đó, λ = là điểm tối đa và do đó, để ước tính khả năng xảy ra tối đa của tham số λ của phân phối Poisson, chúng ta phải lấy trung bình mẫu λ* =.

Ví dụ 2. Tìm ước lượng tham số bằng phương pháp khả năng tối đa P phân phối nhị thức

nếu ở N 1 sự kiện thử nghiệm độc lập MỘT xuất hiện X 1 = tôi 1 lần và N 2 sự kiện thử nghiệm độc lập MỘT xuất hiện X 2 = t 2 một lần.

Giải pháp. Chúng ta hãy xây dựng một hàm khả năng, có tính đến điều đó θ = P:

Hãy tìm hàm khả năng đăng nhập:

Hãy tìm đạo hàm bậc nhất đối với r:

.

.

Chúng ta hãy tìm điểm tới hạn mà chúng ta giải phương trình kết quả cho P:

Hãy tìm đạo hàm bậc hai đối với P:

.

Thật dễ dàng để kiểm chứng rằng khi đạo hàm bậc hai là âm; kể từ đây, - điểm tối đa và do đó, nó phải được coi là ước tính khả năng tối đa của xác suất chưa biết P phân phối nhị thức:

B. Biến ngẫu nhiên liên tục. Cho phép X - biến ngẫu nhiên liên tục, kết quả là N các bài kiểm tra lấy giá trị X 1 ,X 2 , ..., x N . Chúng ta hãy giả sử rằng loại mật độ phân phối f(x) được chỉ định, nhưng tham số không xác định θ , định nghĩa hàm này.

Hàm khả năng của một biến ngẫu nhiên liên tụccấp bậcX gọi hàm đối số θ :

L (X 1 ,X 2 , ...,X N ; θ ) = f (X 1 ; θ ) f (X 2 ; θ ) . . . f (x N ; θ ),

Ở đâu X 1 ,X 2 , ..., x N - số cố định.

Việc ước tính khả năng xảy ra tối đa của tham số phân phối chưa biết của một biến ngẫu nhiên liên tục được tìm kiếm theo cách tương tự như trong trường hợp biến rời rạc.

Ví dụ 3. Tìm bằng phương pháp khả năng tối đa ước tính tham số λ, phân bố hàm mũ

(0< X< ∞),

nếu kết quả là N kiểm tra biến ngẫu nhiên X, phân phối theo luật hàm mũ, lấy các giá trị X 1 ,X 2 , ...,X N .

Giải pháp. Chúng ta hãy xây dựng một hàm khả năng, có tính đến điều đó θ= λ:

L= f (X 1 ; λ ) f (X 2 ; λ ) . . . f (X N ; λ ) =.

Hãy tìm hàm khả năng đăng nhập:

Hãy tìm đạo hàm bậc nhất đối với λ:

Hãy viết phương trình khả năng mà chúng ta đánh đồng đạo hàm bậc nhất bằng 0:

Chúng ta hãy tìm điểm tới hạn mà chúng ta giải phương trình kết quả cho λ:

Hãy tìm đạo hàm bậc hai đối với λ :

Và những người khác).

Ước tính khả năng tối đa là một phương pháp thống kê phổ biến được sử dụng để tạo mô hình thống kê từ dữ liệu và cung cấp ước tính về các tham số của mô hình.

Tương ứng với nhiều phương pháp ước lượng nổi tiếng trong lĩnh vực thống kê. Ví dụ: giả sử bạn quan tâm đến sự phát triển của người dân Ukraine. Giả sử bạn có dữ liệu chiều cao của một số người chứ không phải của toàn bộ dân số. Ngoài ra, chiều cao được giả định là biến phân phối chuẩn với phương sai và giá trị trung bình chưa xác định. Giá trị trung bình và phương sai của sự tăng trưởng mẫu rất có thể là giá trị trung bình và phương sai của toàn bộ tổng thể.

Cho một bộ dữ liệu cố định và một mô hình xác suất cơ bản, sử dụng phương pháp khả năng tối đa, chúng ta sẽ thu được các giá trị cho các tham số của mô hình khiến dữ liệu “gần” hơn với thế giới thực. Ước tính khả năng tối đa cung cấp một cách độc đáo và đơn giản để xác định giải pháp trong trường hợp phân phối chuẩn.

Ước tính khả năng tối đa được sử dụng cho nhiều mô hình thống kê, bao gồm:

  • mô hình tuyến tính và mô hình tuyến tính tổng quát;
  • phân tích nhân tố;
  • mô hình phương trình cấu trúc;
  • nhiều tình huống, trong khuôn khổ kiểm định giả thuyết và hình thành khoảng tin cậy;
  • mô hình lựa chọn rời rạc

Bản chất của phương pháp

gọi điện ước tính khả năng tối đa tham số. Do đó, công cụ ước tính khả năng tối đa là công cụ ước tính giúp tối đa hóa hàm khả năng đưa ra việc thực hiện mẫu cố định.

Thông thường, hàm khả năng ghi nhật ký được sử dụng thay cho hàm khả năng. Vì hàm tăng đơn điệu trên toàn bộ miền định nghĩa nên cực đại của bất kỳ hàm nào cũng là cực đại của hàm và ngược lại. Như vậy

,

Nếu hàm khả năng khả vi thì điều kiện cần cho cực trị là gradient của nó bằng 0:

Điều kiện đủ cho một cực trị có thể được xây dựng dưới dạng tính xác định âm của Hessian - ma trận đạo hàm bậc hai:

Cái gọi là ma trận thông tin, theo định nghĩa bằng:

Tại điểm tối ưu, ma trận thông tin trùng với kỳ vọng toán học của Hessian, lấy dấu trừ:

Của cải

  • Nói chung, ước tính khả năng tối đa có thể bị sai lệch (xem ví dụ), nhưng nhất quán. tiệm cận hiệu quả và tiệm cận chuẩn tắcước tính. Tính quy phạm tiệm cận có nghĩa là

ma trận thông tin tiệm cận ở đâu

Hiệu suất tiệm cận có nghĩa là ma trận hiệp phương sai tiệm cận là giới hạn dưới cho tất cả các công cụ ước lượng tiệm cận chuẩn tắc nhất quán.

Ví dụ

Đẳng thức cuối cùng có thể được viết lại thành:

ở đâu , từ đó có thể thấy hàm khả năng đạt cực đại tại điểm . Như vậy

. .

Để tìm mức tối đa của nó, chúng ta đánh đồng các đạo hàm riêng bằng 0:

- giá trị trung bình mẫu, và - phương sai mẫu.

Phương pháp khả năng tối đa có điều kiện

Khả năng tối đa có điều kiện (ML có điều kiện)được sử dụng trong các mô hình hồi quy. Bản chất của phương pháp này là không sử dụng phân phối chung hoàn chỉnh của tất cả các biến (phụ thuộc và biến hồi quy) mà chỉ sử dụng có điều kiện phân phối của biến phụ thuộc giữa các yếu tố, trên thực tế là phân phối sai số ngẫu nhiên trong mô hình hồi quy. Hàm khả năng tổng hợp là tích của “hàm khả năng có điều kiện” và mật độ phân bố nhân tố. MMP có điều kiện tương đương với phiên bản đầy đủ của MMP trong trường hợp phân phối các yếu tố không phụ thuộc vào bất kỳ cách nào vào các tham số ước tính. Điều kiện này thường bị vi phạm trong các mô hình chuỗi thời gian, chẳng hạn như mô hình tự hồi quy. Trong trường hợp này, các biến hồi quy là giá trị quá khứ của biến phụ thuộc, nghĩa là giá trị của chúng cũng tuân theo cùng một mô hình AR, tức là sự phân bố của các biến hồi quy phụ thuộc vào các tham số ước tính. Trong những trường hợp như vậy, kết quả của việc áp dụng phương pháp khả năng tối đa có điều kiện và khả năng tối đa đầy đủ sẽ khác nhau.

Xem thêm

Ghi chú

Văn học

  • Magnus Y.R., Katyshev P.K., Peresetsky A.A. Kinh tế lượng. Khóa học mới bắt đầu. - M.: Delo, 2007. - 504 tr. - ISBN 978-5-7749-0473-0

Quỹ Wikimedia.

Xem “Phương pháp khả năng tối đa” là gì trong các từ điển khác:

    phương pháp khả năng tối đa- - phương pháp khả năng tối đa Trong thống kê toán học, một phương pháp ước tính các tham số phân phối dựa trên việc tối đa hóa cái gọi là hàm khả năng... ...

    Phương pháp ước lượng các tham số chưa biết của hàm phân bố F(s; α1,..., αs) từ một mẫu, trong đó α1, ..., αs là các tham số chưa biết. Nếu một mẫu gồm n quan sát được chia thành r nhóm rời rạc s1,…, sr; р1,..., pr... … Bách khoa toàn thư địa chất

    Phương pháp khả năng tối đa- trong thống kê toán học, một phương pháp ước tính các tham số phân phối, dựa trên việc tối đa hóa cái gọi là hàm khả năng (mật độ xác suất chung của các quan sát với các giá trị tạo thành ... ... Từ điển kinh tế và toán học

    phương pháp khả năng tối đa- maksimaliojo tikėtinumo metodas statusas T sritis automatika atitikmenys: engl. phương pháp khả năng tối đa vok. Methode der maksimalen Mutmaßlichkeit, f rus. phương pháp khả năng tối đa, m pranc. phương pháp tối đa hóa tốc độ, f;… … Automatikos terminų žodynas

    phương pháp đáp ứng một phần khả năng tối đa- Phương pháp phát hiện tín hiệu Viterbi, đảm bảo mức độ biến dạng liên ký hiệu tối thiểu. Xem thêm. Thuật toán Viterbi. [L.M. Nevdyaev. Công nghệ viễn thông. Sách tham khảo từ điển giải thích Anh-Nga. Được chỉnh sửa bởi Yu.M... Hướng dẫn dịch thuật kỹ thuật

    trình phát hiện trình tự sử dụng phương pháp khả năng tối đa- Một thiết bị để tính toán ước tính chuỗi ký hiệu có khả năng xảy ra cao nhất nhằm tối đa hóa hàm khả năng của tín hiệu nhận được. [L.M. Nevdyaev. Công nghệ viễn thông. Sách tham khảo từ điển giải thích Anh-Nga. Được chỉnh sửa bởi Yu.M... Hướng dẫn dịch thuật kỹ thuật

    phương pháp khả năng tối đa- phương pháp khả năng tối đa - [L.G. Từ điển Anh-Nga về công nghệ thông tin. M.: GP TsNIIS, 2003.] Chủ đề công nghệ thông tin nói chung Từ đồng nghĩa phương pháp khả năng tối đa EN phương pháp khả năng tối đa ... Hướng dẫn dịch thuật kỹ thuật

    phương pháp khả năng tối đa- Phương pháp tổng quát tính toán ước lượng tham số. Các ước tính được tìm kiếm để tối đa hóa hàm khả năng mẫu bằng tích của các giá trị hàm phân phối cho từng giá trị dữ liệu được quan sát. Phương pháp khả năng tối đa là tốt hơn ... Từ điển thống kê xã hội học

biến ngẫu nhiên liên tục có mật độ Loại mật độ đã biết nhưng giá trị của các tham số chưa xác định. Hàm khả năng là một hàm (ở đây - một mẫu có khối lượng n từ phân phối của biến ngẫu nhiên £). Dễ dàng thấy rằng hàm khả năng có thể được mang một ý nghĩa xác suất, cụ thể là: xét một vectơ ngẫu nhiên có các thành phần độc lập, trong tổng hợp, các biến ngẫu nhiên phân bố giống hệt với định luật D(z). Khi đó phần tử xác suất của vectơ E có dạng tức là Hàm khả năng được liên kết với xác suất lấy được một mẫu cố định trong chuỗi thí nghiệm P. Ý tưởng chính của phương pháp khả năng là, khi ước tính các tham số A, người ta đề xuất lấy các giá trị đó (3) cung cấp hàm khả năng tối đa cho một mẫu cố định nhất định, tức là đề xuất coi mẫu thu được trong thử nghiệm là có thể xảy ra nhất. Việc tìm ước tính của tham số pj được rút gọn thành việc giải hệ phương trình k (k là số tham số chưa biết): Vì hàm log L có cực đại tại cùng điểm với hàm khả năng nên hệ phương trình khả năng (19) là thường được viết dưới dạng Là ước lượng của các tham số chưa biết Ta nên lấy nghiệm của hệ (19) hoặc (20) thực sự phụ thuộc vào mẫu và không phải là hằng số. Trong trường hợp £ rời rạc với chuỗi phân phối, hàm khả năng được gọi là hàm và các ước tính được tìm kiếm dưới dạng giải pháp cho phương pháp khả năng tối đa hoặc tương đương. Cần lưu ý rằng phương pháp khả năng tối đa dẫn đến các phép tính phức tạp hơn phương pháp mô men, nhưng về mặt lý thuyết, nó hiệu quả hơn vì ước tính khả năng tối đa sai lệch ít hơn so với giá trị thực của các tham số ước tính so với ước tính thu được bằng phương pháp mômen. . Đối với các phân bố thường gặp nhất trong các ứng dụng, các ước tính tham số thu được bằng phương pháp mô men và phương pháp khả năng tối đa trùng khớp trong hầu hết các trường hợp. Prshir 1. Độ lệch (của kích thước bộ phận so với giá trị danh nghĩa là biến ngẫu nhiên có phân phối chuẩn. Cần phải xác định sai số hệ thống và phương sai của độ lệch so với mẫu. M Theo điều kiện (là biến ngẫu nhiên phân bố chuẩn có biểu thức toán học kỳ vọng (sai số hệ thống) và độ phân tán được ước tính từ mẫu có kích thước n : X\>...уХп. Trong trường hợp này, hàm khả năng Hệ thống (19) có dạng Do đó, loại trừ các nghiệm không phụ thuộc vào Xx, chúng tôi có được tức là ước tính khả năng tối đa trong trường hợp này trùng với giá trị trung bình và phương sai thực nghiệm mà chúng ta đã biết > Ví dụ 2. Ước tính tham số /i của một biến ngẫu nhiên phân bố theo cấp số nhân từ một mẫu. 4 Hàm khả năng có dạng Phương trình khả năng dẫn chúng ta đến nghiệm trùng với ước lượng của cùng một tham số thu được bằng phương pháp mômen, xem (17). ^ Ví dụ 3. Sử dụng phương pháp khả năng tối đa, ước tính xác suất xuất hiện của một huy hiệu nếu trong 10 lần tung đồng xu, huy hiệu đó xuất hiện 8 lần. -4 Đặt xác suất được ước tính bằng p. Chúng ta hãy xem xét một biến ngẫu nhiên (với chuỗi phân phối. Hàm khả năng (21) có dạng Phương pháp khả năng tối đa Phương trình đưa ra ước tính về xác suất chưa biết p tần số xuất hiện của quốc huy trong thí nghiệm. Kết luận khi thảo luận về các phương pháp tìm ước tính, chúng tôi nhấn mạnh rằng, ngay cả khi có một lượng dữ liệu thử nghiệm rất lớn, chúng tôi vẫn không thể chỉ ra giá trị chính xác của tham số ước tính, hơn nữa, như đã được lưu ý nhiều lần, các ước tính mà chúng tôi thu được rất gần với; giá trị thực của các tham số ước tính chỉ “trung bình” hoặc “trong hầu hết các trường hợp”. Do đó, một nhiệm vụ thống kê quan trọng mà chúng tôi sẽ xem xét thêm là nhiệm vụ xác định tính chính xác và độ tin cậy của đánh giá mà chúng tôi thực hiện.