Diskussion:Buffonsches Nadelproblem

Der Schäzer des Erwartungswertes von Z wird eine Normalverteilung haben:${\displaystyle {\hat {E}}[Z]\sim {\mathcal {N}}}$, was ist dann die Verteilung von ${\displaystyle 1/{\hat {E}}[Z]}$? --biggerj1 (Diskussion) 09:43, 14. Okt. 2023 (CEST)

Die Verteilung ist eine reziproke Normalverteilung, siehe en:Inverse distribution --biggerj1 (Diskussion) 13:19, 14. Okt. 2023 (CEST)

Hmm allerdings scheint mir ${\displaystyle {\hat {E}}[Z]}$ (als skalierte Summe von Bernoulli-Verteilten Zufallszahlen) Binomial-verteilt zu sein und daher nur näherungsweise normalverteilt... biggerj1 (Diskussion) 13:42, 14. Okt. 2023 (CEST)

Nein das stimmt nicht. ${\displaystyle {\hat {\pi }}}$ ist asymptotisch normalverteilt. Man muss grundsätzlich zwischen der Verteilung eines Schätzers für endlichen Stichprobenumfang ${\displaystyle n\in \mathbb {N} }$ und der asymptotischen Verteilung eines Schätzers unterscheiden. Im Fall ${\displaystyle {\hat {E}}[Z]={\bar {Z}}_{n}={\frac {1}{n}}\sum _{i=1}^{n}Z_{i}}$ mit stochastisch unabhängigen Bernoulli-Variablen ${\displaystyle Z_{i}\sim \mathrm {Ber} (p)}$ gilt ${\displaystyle n{\bar {Z}}_{n}\sim \mathrm {Bin} (n,p)}$, aber die Folge der Verteilungen der Zufallsvariablen ${\displaystyle n{\bar {Z}}_{n}}$ hat keine (!) Grenzverteilung, da ihre Wahrscheinlichkeitsmasse für ${\displaystyle n\to \infty }$ nach ${\displaystyle +\infty }$ wandert. Eine Grenzverteilung hat nur die Folge der geeignet standardisierten Variablen, ${\displaystyle ({\bar {Z}}_{n}-p)/{\sqrt {p(1-p)/n}}}$. Zunächst ist es gegen die Intuition, aber auch ${\displaystyle 1/{\bar {Z}}_{n}}$ hat bei geeigneter Standardisierung eine asymptotische Normalverteilung! Der Hintergrund ist, dass nicht die Verteilungen von ${\displaystyle {\bar {Z}}_{n}}$ und ${\displaystyle 1/{\bar {Z}}_{n}}$ gegen Grenzverteilungen konvergieren, diese gehen vielmehr gegen ${\displaystyle +\infty }$ und gegen Null, sondern geeignete Standardisierungen. Es ist Routine, die asymptotische Normalverteilung von ${\displaystyle {\hat {\pi }}}$ mit der Delta-Methode herzuleiten. Leider fehlt noch ein eigener WP-Artikel zur Deltamethode, wie auch sonst fast alles zur asymptotischen Statistik. Die asymptotische Normalverteilung von ${\displaystyle {\hat {\pi }}}$ steht mit Sicherheit irgendwo in der angegebenen Literatur.

Die Verteilung von ${\displaystyle 1/{\bar {Z}}_{n}}$ für endliches ${\displaystyle n\in \mathbb {N} }$ hat ein Problem, da mit (kleiner und asymptotisch verschwindender) positiver Wahrscheinlichkeit durch Null dividiert wird. Jemand, dem es beim Nadelexperiment passieren würde, dass er Null Erfolge hat, würde es nicht zur Pi-Schätzung verwenden. Zur Berücksichtigung dieses Problems muss man an der Stelle Null gestutzte Verteilungen benutzen. Wenn ${\displaystyle X}$ eine bei Null gestutzte Binomialverteilung hat, dann gibt es wahrscheinlich keinen Namen für die Verteilung von ${\displaystyle 1/X}$. --Sigma^2 (Diskussion) 00:06, 16. Okt. 2023 (CEST)

Hmm das muss ich mir mal mit https://en.wikibooks.org/wiki/Probability/Transformation_of_Probability_Densities#Derivation_using_the_Delta_Distribution durchrechnen. biggerj1 (Diskussion) 10:20, 16. Okt. 2023 (CEST)

Der Artikel en:Delta method hilft eher weiter. Ein Zusammenhang zur Delta-Verteilung besteht nicht. Delta-Methode ist ein historisch bedingter Name, da die Delta-Methode ursprünglich aus der Fehlerrechnung kommt, wo man mit Deltas jonglierte und formulierte. Inzwischen ist es üblich, die Delta-Methode völlig Delta-frei zu formulieren. Der Artikel en:Delta method ist gut, der Artikel fr:Méthode delta auf das Wesentliche konzentriert. --Sigma^2 (Diskussion) 21:46, 23. Okt. 2023 (CEST)

Es gibt jetzt einen Artikel Delta-Methode.--Sigma^2 (Diskussion) 12:01, 24. Okt. 2023 (CEST)

Und jetzt die Herleitung der asymptotischen Verteilung von ${\displaystyle 1/{\bar {Z}}_{n}}$:
Es gilt (zentraler Grenzwertsatz)

${\displaystyle {\sqrt {n}}({\bar {Z}}_{n}-p)\xrightarrow {V} {\mathcal {N}}(0,p(1-p))}$,

wobei ${\displaystyle \xrightarrow {V} }$ die Konvergenz in Verteilung bezeichnet. Für die Funktion ${\displaystyle g(x)=1/x}$ gilt ${\displaystyle g'(x)=-1/x^{2}}$ und damit ${\displaystyle g(p)=1/p}$, ${\displaystyle g'(p)=-1/p^{2}}$ und ${\displaystyle (g'(p))^{2}=1/p^{4}}$ jeweils an der Stelle ${\displaystyle x=p}$. Mit der Delta-Methode folgt

${\displaystyle {\sqrt {n}}\left({\frac {1}{{\bar {Z}}_{n}}}-{\frac {1}{p}}\right)\xrightarrow {V} {\mathcal {N}}\left(0,{\frac {p(1-p)}{p^{4}}}\right)={\mathcal {N}}\left(0,{\frac {1-p}{p^{3}}}\right)\;.}$

Eine Normalverteilungsapproximation der Verteilung von ${\displaystyle 1/{\bar {Z}}_{n}}$ für endliches, hinreichend großes ${\displaystyle n}$ ist daher

${\displaystyle \mathrm {Verteilung} \left[{\frac {1}{{\bar {Z}}_{n}}}\right]\approx {\mathcal {N}}\left({\frac {1}{p}},{\frac {1-p}{np^{3}}}\right)\;.}$

Es würde mich wundern, wenn dies nicht schön längst in der Literatur zum Buffonschen Nadelproblem zu finden ist.

--Sigma^2 (Diskussion) 18:27, 24. Okt. 2023 (CEST)

@Sigma^2: Hi Sigma^2, ich habe es nochmal mit der Delta-Transformation nachgerechnet:

Gegeben seien Bernoulli-verteilter Zufallszahl ${\displaystyle Z_{i}\sim {\text{Ber}}(p)}$ (0<p<1). Der Mittelwertschätzer sei ${\displaystyle {\overline {Z}}={\frac {1}{n}}\sum _{i=1}^{n}Z_{i}\sim {\mathcal {N}}(p,\sigma _{\overline {z}}^{2}=p(1-p)/n)}$, wobei die Verteilung nur asymptotisch für große Stichprobengrößen n erreicht wird. Weiter seien praktischer Weise die Realisierungen ${\displaystyle {\overline {z}}\in (0,1)}$ für große Stichprobengrößen (0 und 1 seien ausgenommen).

Dann ist (asymptotisch) die Verteilung unter Benutzung von https://en.wikibooks.org/wiki/Probability/Transformation_of_Probability_Densities#Derivation_using_the_Delta_Distribution gegeben durch:

${\displaystyle f({\frac {1}{\overline {Z}}}=y)=\int _{0}^{\infty }\delta (y-{\frac {1}{\overline {z}}}){\frac {\exp(-0.5{\frac {(p-{\overline {z}})^{2}}{\sigma _{\overline {z}}^{2}}})}{\sqrt {2\pi \sigma _{\overline {z}}^{2}}}}d{\overline {z}}=p^{2}{\frac {\exp(-0.5{\frac {(p-1/y)^{2}}{\sigma _{\overline {z}}^{2}}})}{\sqrt {2\pi \sigma _{\overline {z}}^{2}}}}}$ für y>0, 0 sonst. (Eventuell wird das Ergebnis für kleine Stichprobengrößen noch besser, falls man die asymptotische Normalverteilung von ${\displaystyle {\overline {Z}}}$ auf den Bereich von 0 bis 1 stutzt...)

Da es schon länger her ist, dass ich soetwas gerechnet habe, habe ich es numerisch mit Simulationen überprüft:

• Normierung: ${\displaystyle \int _{0^{+}}^{\infty }f({\frac {1}{\overline {Z}}}=y)dy=1}$ scheint numerisch zu gelten
• ich habe mehrere tausend Male ${\displaystyle n}$ Bernoulliverteilte Zufallszahlen gezogen und jedes mal deren Mittelwert sowie 1/Mittelwert berechnet. Dann habe ich ein Histogramm der Verteilung der Realisierungen ${\displaystyle {\frac {1}{{\bar {z}}_{n}}}}$ erzeugt und mit f(y) verglichen, das sah sehr gut aus, bereits ab n=300. Dabei fiel auf, dass ${\displaystyle f}$ die Schiefe im Histogramm ganz gut wiedergeben konnte. Je größer n wurde umso besser wurde das Histogramm durch ${\displaystyle f}$ beschrieben.

Was denkst du, ist das auch eine bekannte asymptotische Näherung? Welche Näherung ist besser bei kleinen Stichprobengrößen? Siehst du einen Rechenfehler? Habe ich mich verrechnet? biggerj1 (Diskussion) 09:09, 4. Nov. 2023 (CET)

Das ist approximativ die Verteilung von ${\displaystyle 1/X}$, falls ${\displaystyle X\sim {\mathcal {N}}\left(p,{\frac {p(1-p)}{n}}\right)}$, aber keine Approximation durch eine Normalverteilung. Approximativ deswegen, weil ${\displaystyle 1/X}$ mit positiver Wahrscheinlichkeit negativ ist, allerdings gilt ${\displaystyle \lim _{n\to \infty }P(1/X<0)=0}$. Bei asymptotisch begründeten Approximationen ist zunächst unklar, was sich bei kleinen ${\displaystyle n}$ tut. Für jedes fixierte ${\displaystyle n}$ gibt es wahrscheinlich andere Bereiche von ${\displaystyle p}$-Werten, wo die eine oder die andere Approximation besser ist. Besonders heikel sind Werte von p in der Nähe von 0 oder 1, da dann die Verteilung von ${\displaystyle {\bar {Z}}_{n}}$ sehr schief ist. Das wäre wohl eine interessante Forschungsfragestellung, falls es nicht schon längst gemacht ist. Aber das herauszubekommen, ist viel Arbeit, denn untersucht und publiziert worden ist das vielleicht schon vor langer Zeit. --Sigma^2 (Diskussion) 13:13, 4. Nov. 2023 (CET)

Danke dir für deine Zeit! biggerj1 (Diskussion) 22:08, 5. Nov. 2023 (CET)

Math world hat noch eine Formel für eine asymptotische Varianz des Schätzers: https://mathworld.wolfram.com/BuffonsNeedleProblem.html denkst du das passt in den Artikel? biggerj1 (Diskussion) 22:13, 5. Nov. 2023 (CET)

Ja, das passt. Es ist exakt die Varianz der asymptotischen Normalverteilung. --Sigma^2 (Diskussion) 10:50, 6. Nov. 2023 (CET)

Ich habe die Formel für die asymptotische Varianz eingefügt. Vielleicht magst du ja noch etwas über die Normalverteilungsapproximation schreiben? Beste Grüße biggerj1 (Diskussion) 21:57, 22. Nov. 2023 (CET)

@Sigma^2: Würdest du mal schauen ob ich die Beschreibung der Verteilung von ${\displaystyle {\hat {\pi }}}$ richtig formuliert habe? Falls ja, können wir den Punkt hier gerne schließen. biggerj1 (Diskussion) 15:24, 29. Nov. 2023 (CET)