matheraum.de
Raum für Mathematik
Offene Informations- und Nachhilfegemeinschaft

Für Schüler, Studenten, Lehrer, Mathematik-Interessierte.
Hallo Gast!einloggen | registrieren ]
Startseite · Forum · Wissen · Kurse · Mitglieder · Team · Impressum
Forenbaum
^ Forenbaum
Status Mathe
  Status Schulmathe
    Status Primarstufe
    Status Mathe Klassen 5-7
    Status Mathe Klassen 8-10
    Status Oberstufenmathe
    Status Mathe-Wettbewerbe
    Status Sonstiges
  Status Hochschulmathe
    Status Uni-Analysis
    Status Uni-Lin. Algebra
    Status Algebra+Zahlentheo.
    Status Diskrete Mathematik
    Status Fachdidaktik
    Status Finanz+Versicherung
    Status Logik+Mengenlehre
    Status Numerik
    Status Uni-Stochastik
    Status Topologie+Geometrie
    Status Uni-Sonstiges
  Status Mathe-Vorkurse
    Status Organisatorisches
    Status Schule
    Status Universität
  Status Mathe-Software
    Status Derive
    Status DynaGeo
    Status FunkyPlot
    Status GeoGebra
    Status LaTeX
    Status Maple
    Status MathCad
    Status Mathematica
    Status Matlab
    Status Maxima
    Status MuPad
    Status Taschenrechner

Gezeigt werden alle Foren bis zur Tiefe 2

Navigation
 Startseite...
 Neuerdings beta neu
 Forum...
 vorwissen...
 vorkurse...
 Werkzeuge...
 Nachhilfevermittlung beta...
 Online-Spiele beta
 Suchen
 Verein...
 Impressum
Das Projekt
Server und Internetanbindung werden durch Spenden finanziert.
Organisiert wird das Projekt von unserem Koordinatorenteam.
Hunderte Mitglieder helfen ehrenamtlich in unseren moderierten Foren.
Anbieter der Seite ist der gemeinnützige Verein "Vorhilfe.de e.V.".
Partnerseiten
Dt. Schulen im Ausland: Mathe-Seiten:Weitere Fächer:

Open Source FunktionenplotterFunkyPlot: Kostenloser und quelloffener Funktionenplotter für Linux und andere Betriebssysteme
StartseiteMatheForenStatistik (Anwendungen)Schätzer multivar. Normalvert.
Foren für weitere Schulfächer findest Du auf www.vorhilfe.de z.B. Deutsch • Englisch • Französisch • Latein • Spanisch • Russisch • Griechisch
Forum "Statistik (Anwendungen)" - Schätzer multivar. Normalvert.
Schätzer multivar. Normalvert. < Statistik (Anwend.) < Stochastik < Hochschule < Mathe < Vorhilfe
Ansicht: [ geschachtelt ] | ^ Forum "Statistik (Anwendungen)"  | ^^ Alle Foren  | ^ Forenbaum  | Materialien

Schätzer multivar. Normalvert.: Frage (beantwortet)
Status: (Frage) beantwortet Status 
Datum: 18:57 Sa 23.04.2016
Autor: Voxxy

Aufgabe
a)Seien [mm] X_{1},...,X_{n} \sim_{u.i.v.} N_{d} (\mu,\summe). [/mm] Beweisen Sie, dass

[mm] \overline{X_n} [/mm] = [mm] \frac{1}{n}\summe_{i=1}^{n} X_{i} [/mm] ,

[mm] S_n [/mm] = [mm] \frac{1}{n} \summe_{i=1}^{n} (X_i [/mm] - [mm] \overline{X_n}) (X_i [/mm] - [mm] \overline{X_n})^{T} [/mm]

stochastisch unabhängig sind.

b)Seien [mm] X_{1},...,X_{n} \sim_{u.i.v.} N_{d} (\mu,\sigma^{2} I_d), [/mm] wobei [mm] \mu^{T}\mu [/mm] = 1, also [mm] \mu \in S_{d-1}, [/mm] der Oberfläche der d-dimensionalen Einheitskugel. Berechnen sie den ML-Schätzer von [mm] \mu. [/mm] (wobei [mm] I_d [/mm] die d-dimensionale Einheitsmatrix ist)

a) Bekomme ich das über die ganz normale Gleichung für Zufallsvariablen errechnet? Also stochastische Unabhängigkeit liegt genau dann vor, wenn ich habe:

[mm] E(\overline{X_n} [/mm] ) [mm] E(S_n) [/mm] = [mm] E(\overline{X_n} [/mm] * [mm] S_n) [/mm]

Rechne da gerade dran rum, aber komme nicht auf das gewünschte Ergebnis.

b)Bei b) fehlt mir der Ansatz. Der ML-Schätzer für [mm] \mu [/mm] ist ja gerade gegeben durch unser [mm] \overline{X_n}. [/mm] Nun weiß ich leider nicht wie ich z.B. das [mm] \mu^{T}\mu [/mm] = 1 ins Spiel bringen soll, bzw. allgemein ansetze.

Ich habe diese Frage in keinem Forum auf anderen Internetseiten gestellt.


Schöne Wochenendgrüße,

Voxxy

        
Bezug
Schätzer multivar. Normalvert.: Antwort
Status: (Antwort) fertig Status 
Datum: 19:19 Sa 23.04.2016
Autor: luis52

Moin Voxxy

[willkommenmr]

>  a) Bekomme ich das über die ganz normale Gleichung für
> Zufallsvariablen errechnet? Also stochastische
> Unabhängigkeit liegt genau dann vor, wenn ich habe:
>  
> [mm]E(\overline{X_n}[/mm] ) [mm]E(S_n)[/mm] = [mm]E(\overline{X_n}[/mm] * [mm]S_n)[/mm]
>  
> Rechne da gerade dran rum, aber komme nicht auf das
> gewünschte Ergebnis.

Hier bist du vollkommen auf dem Holzweg. Schau mal in deine (Vorlesungs-?)Unterlagen.

>  
> b)Bei b) fehlt mir der Ansatz. Der ML-Schätzer für [mm]\mu[/mm]
> ist ja gerade gegeben durch unser [mm]\overline{X_n}.[/mm] Nun weiß
> ich leider nicht wie ich z.B. das [mm]\mu^{T}\mu[/mm] = 1 ins Spiel
> bringen soll, bzw. allgemein ansetze.
>

Hast du schon die Likelihoodfunktion aufgestellt?

Bezug
                
Bezug
Schätzer multivar. Normalvert.: Frage (reagiert)
Status: (Frage) reagiert/warte auf Reaktion Status 
Datum: 14:15 So 24.04.2016
Autor: Voxxy

Hallo luis,

besten Dank schon mal :)

> Hier bist du vollkommen auf dem Holzweg. Schau mal in deine
> (Vorlesungs-?)Unterlagen.

Hab da nun noch nichts konkretes zu gefunden. Schaue da aber nun gleich nochmal nach und melde mich dann nochmal :)

> Hast du schon die Likelihoodfunktion aufgestellt?

Die Likelihoodfunktion müsste meiner Meinung nach so aussehen:

[mm] L(x|\mu [/mm] , [mm] \sigma^{2}) [/mm] = [mm] \big(\frac{1}{2\pi\sigma^{2}}\big)^{\frac{n}{2}} exp\Bigg(-\frac{\summe_{i=1}^{n}(x_i-\mu)^{2}}{2\sigma^{2}}\Bigg) [/mm]

Hier schau ich dann nun einfach erstmal wo sich ein Maximum ergibt für [mm] \mu? [/mm]


Bezug
                        
Bezug
Schätzer multivar. Normalvert.: Frage (beantwortet)
Status: (Frage) beantwortet Status 
Datum: 16:12 So 24.04.2016
Autor: Voxxy

Habe nun noch einmal die b) umgeschrieben in die notation aus der Aufgabenstellung bzw. unserer Vorlesung.
Wir betrachten die Dichte:

[mm] f(\mu, \summe)(X_1,...,X_n) [/mm] = [mm] ((2\pi^{d} det\summe)^{-\frac{n}{2}} [/mm] exp [mm] (-\frac{n}{2}(tr(\Sigma^{-1}S_n+(\overline{X_n}-\mu)\Sigma^{-1}(\overline{X_n}-\mu)^{T})) [/mm]

Dann erhalte ich für die Log-Likelihoodfunktion

l [mm] =-\frac{nd}{2} ln(2\pi)-\frac{n}{2}det\Sigma-\frac{n}{2}tr(\Sigma^{-1}S_n-\frac{n}{2}(\overline{X_n}-\mu)\Sigma^{-1}(\overline{X_n}-\mu)^{T})) [/mm]

Wenn ich das nun allgemein nach [mm] \mu [/mm] ableite, erhalte ich.

l' = [mm] n(\overline{X_n}-\mu)\Sigma^{-1} [/mm]

Da muss ich ja nun irgendwie die Voraussetzungen ins Spiel bringen? Weil sonst würde ich ja allgemein den Schätzer in a) erhalten. Oder muss ich die schon vorher einbringen?

Bezug
                                
Bezug
Schätzer multivar. Normalvert.: Antwort
Status: (Antwort) fertig Status 
Datum: 16:25 So 24.04.2016
Autor: luis52


> Habe nun noch einmal die b) umgeschrieben in die notation
> aus der Aufgabenstellung bzw. unserer Vorlesung.
>  Wir betrachten die Dichte:
>  
> [mm]f(\mu, \summe)(X_1,...,X_n)[/mm] = [mm]((2\pi^{d} det\summe)^{-\frac{n}{2}}[/mm]
> exp
> [mm](-\frac{n}{2}(tr(\Sigma^{-1}S_n+(\overline{X_n}-\mu)\Sigma^{-1}(\overline{X_n}-\mu)^{T}))[/mm]
>  
> Dann erhalte ich für die Log-Likelihoodfunktion
>  
> l [mm]=-\frac{nd}{2} ln(2\pi)-\frac{n}{2}det\Sigma-\frac{n}{2}tr(\Sigma^{-1}S_n-\frac{n}{2}(\overline{X_n}-\mu)\Sigma^{-1}(\overline{X_n}-\mu)^{T}))[/mm]
>  
> Wenn ich das nun allgemein nach [mm]\mu[/mm] ableite, erhalte ich.
>  
> l' = [mm]n(\overline{X_n}-\mu)\Sigma^{-1}[/mm]
>  
> Da muss ich ja nun irgendwie die Voraussetzungen ins Spiel
> bringen? Weil sonst würde ich ja allgemein den Schätzer
> in a) erhalten. Oder muss ich die schon vorher einbringen?


Schon besser. Beachte noch [mm] $\Sigma=\sigma^2I_d$. [/mm]

Aber letztendlich geht es um die Bestimmung des ML-Schatzers fuer [mm] $\mu$, [/mm] das [mm] $\sigma^2$ [/mm] interessiert nicht.
Demnach ist [mm] $g(\mu)=(\bar x-\mu)'(\bar x-\mu)$ [/mm] unter der Nebenbedingung [mm] $\mu'\mu=1$ [/mm] zu minimieren.

Fuer (a) schau mal []hier, Seite 11.


Bezug
                                        
Bezug
Schätzer multivar. Normalvert.: Frage (beantwortet)
Status: (Frage) beantwortet Status 
Datum: 14:57 Mo 25.04.2016
Autor: Voxxy


> Schon besser. Beachte noch [mm]\Sigma=\sigma^2I_d[/mm].
>
> Aber letztendlich geht es um die Bestimmung des
> ML-Schatzers fuer [mm]\mu[/mm], das [mm]\sigma^2[/mm] interessiert nicht.
> Demnach ist [mm]g(\mu)=(\bar x-\mu)'(\bar x-\mu)[/mm] unter der
> Nebenbedingung [mm]\mu'\mu=1[/mm] zu minimieren.
>  
> Fuer (a) schau mal
> []hier,
> Seite 11.
>  

Hallo Luis,

danke für deine Antwort.
Hab mir nun [mm] g(\mu) [/mm] angeschaut und folgendes gemacht.
Erstmal umgeschrieben [mm] g(\mu)=n*\overline{X_n}^{2}-2\overline{X_n}\summe_{i=1}^{n}\mu_i +\summe_{i=1}^{n} \mu_i^{2} [/mm]

Dann bilde ich die Funktion nach Lagrange-Methode unter Einbezug der NB:

[mm] h(\mu, \lambda) [/mm] = [mm] n*\overline{X_n}^{2}-2\overline{X_n}\summe_{i=1}^{n}\mu_i +\summe_{i=1}^{n} \mu_i^{2} [/mm] + [mm] \lambda\mu^{T}\mu-\lambda [/mm]

Wenn ich diese nun nach [mm] \mu [/mm] bzw. [mm] \lambda [/mm] ableite erhalte ich die Gleichungen:

I: [mm] -2n\overline{X_n} [/mm] + [mm] 2\summe_{i=1}^{n}\mu_i [/mm] + [mm] n\lambda= [/mm] 0
II: [mm] \mu^{T}\mu [/mm] -1 = 0

Stimmt das bis dahin so? Ich sehe nun leider noch nicht wie ich die Gleichungen so umgeformt bekomme, dass ich den Schätzer erhalte.

Bezug
                                                
Bezug
Schätzer multivar. Normalvert.: Antwort
Status: (Antwort) fertig Status 
Datum: 21:01 Mo 25.04.2016
Autor: luis52

Du musst mit Vektoren rechnen, nicht mit Skalaren. Die Lagrangefunktion lautet

[mm] $g(\mu)=(\bar x-\mu)'(\bar x-\mu) +\lambda (\mu'\mu-1) [/mm] $

Fuer das Weitere brauchst du etwas Kenntnisse zur Matrixdiifferentiation, wie z.B []hier, ab Seite 4. Bestimme also


[mm] $\frac{\partial g}{\partial \mu}$ [/mm] und [mm] $\frac{\partial g}{\partial \lambda}$ [/mm] ...




Bezug
                                                        
Bezug
Schätzer multivar. Normalvert.: Frage (beantwortet)
Status: (Frage) beantwortet Status 
Datum: 21:48 Mo 25.04.2016
Autor: Voxxy


> Du musst mit Vektoren rechnen, nicht mit Skalaren. Die
> Lagrangefunktion lautet
>
> [mm]g(\mu)=(\bar x-\mu)'(\bar x-\mu) +\lambda (\mu'\mu-1)[/mm]
>
> Fuer das Weitere brauchst du etwas Kenntnisse zur
> Matrixdiifferentiation, wie z.B
> []hier,
> ab Seite 4. Bestimme also
>  
>
> [mm]\frac{\partial g}{\partial \mu}[/mm] und [mm]\frac{\partial g}{\partial \lambda}[/mm]
> ...
>  
>

Das mit den Vektoren kann ich mir für den hinteren Teil gerade nicht vorstellen. Wenn ich mir das [mm] \lambda [/mm] als Diagonalmatrix mit [mm] \lambda [/mm] auf der Diagonalen denke und das ableiten, würde ich ja die Einheitsmatrix bekommen und für den Teil dahinter die Nullmatrix. Dann wäre mein [mm] \frac{\partial g}{\partial \lambda} [/mm] insgesamt 0 und das kann irgendwie nicht. Ähnlich bei [mm] \frac{\partial g}{\partial \mu}. [/mm]
Das wäre bei mir dann: [mm] diag(-\mu_1 -\mu_2...-\mu_n)*diag(-\mu_1 -\mu_2...-\mu_n) [/mm] + 0



Bezug
                                                                
Bezug
Schätzer multivar. Normalvert.: Antwort
Status: (Antwort) fertig Status 
Datum: 22:25 Mo 25.04.2016
Autor: luis52


> > Du musst mit Vektoren rechnen, nicht mit Skalaren. Die
> > Lagrangefunktion lautet
> >
> > [mm]g(\mu)=(\bar x-\mu)'(\bar x-\mu) +\lambda (\mu'\mu-1)[/mm]
> >
> > Fuer das Weitere brauchst du etwas Kenntnisse zur
> > Matrixdiifferentiation, wie z.B
> >
> []hier,
> > ab Seite 4. Bestimme also
>  >  
> >
> > [mm]\frac{\partial g}{\partial \mu}[/mm] und [mm]\frac{\partial g}{\partial \lambda}[/mm]
> > ...
>  >  
> >
>
> Das mit den Vektoren kann ich mir für den hinteren Teil
> gerade nicht vorstellen.  


[mm] $\lambda$ [/mm] ist ein Skalar,  [mm] $\mu'\mu-1$ [/mm] auch.


Bezug
                                                                        
Bezug
Schätzer multivar. Normalvert.: Frage (überfällig)
Status: (Frage) überfällig Status 
Datum: 22:52 Mo 25.04.2016
Autor: Voxxy

[mm]\lambda[/mm] ist ein Skalar,  [mm]\mu'\mu-1[/mm] auch.


Also dann ist für mich

[mm] \frac{\partial g}{\partial\lambda}= \mu'\mu-1 [/mm]

Bei der anderen bin ich mir nun nicht sicher.

Das was ich gerade hatte mit den Dianoalmatrizen erscheint mir irgendwie logisch, aber dann klappt das mit dem Nullsetzen nicht.
Meine zweite Idee wäre:

[mm] \frac{\partial g}{\partial\mu}= (\overline{x}-1)'(\overline{x}-\mu)+(\overline{x}-\mu)'(\overline{x}-1) [/mm]

Bezug
                                                                                
Bezug
Schätzer multivar. Normalvert.: Mitteilung
Status: (Mitteilung) Reaktion unnötig Status 
Datum: 23:03 Mo 25.04.2016
Autor: luis52


>
>  Meine zweite Idee wäre:
>  
> [mm]\frac{\partial g}{\partial\mu}= (\overline{x}-1)'(\overline{x}-\mu)+(\overline{x}-\mu)'(\overline{x}-1)[/mm]
>

Ich glaube, du raetst. Ich kann dir nicht weiterhelfen.




Bezug
                                                                                
Bezug
Schätzer multivar. Normalvert.: Fälligkeit abgelaufen
Status: (Mitteilung) Reaktion unnötig Status 
Datum: 23:20 Mi 27.04.2016
Autor: matux

$MATUXTEXT(ueberfaellige_frage)
Bezug
Ansicht: [ geschachtelt ] | ^ Forum "Statistik (Anwendungen)"  | ^^ Alle Foren  | ^ Forenbaum  | Materialien


^ Seitenanfang ^
www.matheraum.de
[ Startseite | Forum | Wissen | Kurse | Mitglieder | Team | Impressum ]