Jackknife (estadística)

Sea ${\displaystyle \theta }$ el parámetro que se quiere estimar usando un estimador ${\displaystyle {\hat {\theta }}}$ a partir de una muestra de tamaño ${\displaystyle n}$. Se consideran los ${\displaystyle n}$ estimadores ${\displaystyle {\hat {\theta }}_{(j)}}$ de misma forma funcional que ${\displaystyle {\hat {\theta }}}$ fruto de omitir la ${\displaystyle j}$-ésima observación de la muestra para cada ${\displaystyle j=1,\dots ,n}$. A estas estimaciones se las conoce como replicas jackknife y un primer estimador es su media^[3]

${\displaystyle {\hat {\theta }}_{(\cdot )}={\frac {1}{n}}\sum _{j=1}^{n}{\hat {\theta }}_{(j)}}$

que en el caso en que las réplicas jackknife sean incorreladas, disminuye la varianza respecto a ${\displaystyle {\hat {\theta }}}$.

El estimador ${\displaystyle {\hat {\theta }}}$ es en general sesgado. Una asunción razonable en la mayoría de los casos es que el sesgo del estimador tiende a 0 cuanto mayor es el tamaño muestral ${\displaystyle n}$, así se puede suponer que ${\displaystyle \mathbb {E} [{\hat {\theta }}]\approx \theta +{\frac {b}{n}}}$. Entonces la media de las réplicas jackknife cumple

${\displaystyle \mathbb {E} [{\hat {\theta }}_{(\cdot )}]=\mathbb {E} [{\hat {\theta }}_{(j)}]\approx \theta +{\frac {b}{n-1}}}$

de manera que

${\displaystyle \mathbb {E} [n{\hat {\theta }}-(n-1){\hat {\theta }}_{(\cdot )}]\approx n\theta +b-(n-1)\theta -b=\theta }$

Se define el estimador jackknife con corrección de sesgo como

${\displaystyle {\hat {\theta }}^{jack}=n{\hat {\theta }}-(n-1){\hat {\theta }}_{(\cdot )}}$

que se puede escribir también como la media de los pseudovalores ${\displaystyle \theta _{j}=n{\hat {\theta }}-(n-1){\hat {\theta }}_{(j)}}$

${\displaystyle {\hat {\theta }}^{jack}={\frac {1}{n}}\sum _{j=1}^{n}{\hat {\theta }}_{j}}$

De la discusión del apartado anterior se tiene que

${\displaystyle \mathbb {E} [{\hat {\theta }}_{(\cdot )}-{\hat {\theta }}]={\frac {b}{n(n-1)}}}$

por lo tanto multiplicando por ${\displaystyle n-1}$ se tiene una estimación aproximada del sesgo de ${\displaystyle {\hat {\theta }}}$:

${\displaystyle {\hat {\mathbb {B} }}({\hat {\theta }})=(n-1)({\hat {\theta }}_{(\cdot )}-{\hat {\theta }})}$

Si al estimador ${\displaystyle {\hat {\theta }}}$ se le resta la estimación de su sesgo, se obtiene de nuevo el estimador jackknife

${\displaystyle {\hat {\theta }}-{\hat {\mathbb {B} }}({\hat {\theta }})={\hat {\theta }}-(n-1)({\hat {\theta }}_{(\cdot )}-{\hat {\theta }})=n{\hat {\theta }}-(n-1){\hat {\theta }}_{(\cdot )}={\hat {\theta }}^{jack}}$

Dada la expresión del estimador jackknife como media de pseudovalores, una estimación natural de su varianza es ${\displaystyle {\frac {1}{n}}S^{2}}$, siendo en este caso ${\displaystyle S^{2}}$la cuasivarianza o varianza muestral de los pseudovalores^[4]

${\displaystyle {\hat {V}}({\hat {\theta }}^{jack})={\frac {1}{n(n-1)}}\sum _{j=1}^{n}({\hat {\theta }}_{j}-{\hat {\theta }}^{jack})^{2}}$.

Esta expresión se usa también como estimación de la varianza de ${\displaystyle {\hat {\theta }}}$.