Desigualdad de Hoeffding

En teoría de la probabilidad, la desigualdad de Hoeffding proporciona una cota superior a la probabilidad de que la suma de variables aleatorias se desvíe una cierta cantidad de su valor esperado. Las desigualdad de Hoeffding fue demostrada por Wassily Hoeffding en 1963.[1]

Las desigualdad de Hoeffding es un caso particular de la desigualdad de Azuma-Hoeffding, aunque generaliza la desigualdad de Bernstein, demostrada por Sergei Bernstein en 1923. Ambas son casos especiales de la desigualdad de McDiarmid.

Caso particular de variables de Bernouilli

editar

Las desigualdad de Hoeffding puede aplicarse al importante especial de variables de Bernouilli idénticamente distribuidas, y este es la manera en que la desigualdad se aplica frecuentemente en combinatoria y en informática.

Si se considera una moneda desequilibrada que muestra cara con probabilidad   y cruz con probabilidad  , y se consideran   lanzamientos de esta moneda. El valor esperado del número de veces que se obtiene cara es  . Más aún, la probabilidad de que se obtengan como mucho   caras puede cuantificarse exactamente mediante la siguiente expresión:

 

En el caso de que   para algún  , la desigualdad de Hoeffding acota esta probabilidad mediante un término que disminuye exponencialmente en  :

 

De manera similar, en el caso de que   para algún  , la desigualdad de Hoeffding acota la probabilidad de que se obtengan al menos   un número de caras mayor que el valor esperado:

 

En esas condiciones la desigualdad de Hoeffding implica que el número de caras que se obtienen se concentra alrededor de la media, con colas que decrecen exponencialmente.

 

Caso general

editar

Sean   n variables aleatorias independientes. Si se asume que las   están acotadas casi con seguridad; es decir, si se asume para   que:

 

Se define la media muestral de estas variables como:

 

El segundo teorema en el artículo de Hoeffding prueba las siguientes desigualdades:

 
 

que son válidas para valores positivos de t. Aquí   representa el valor esperado de  .

Nótese que las desigualdades también son válidas cuando las   han sido obtenidas usando muestreo sin reemplazo; en este caso las variables aleatorias no son de ninguna manera indendientes. Una demostración de esta afirmación puede encontrarse en el artículo de Hoeffding. Para cotas ligeramente mejores en el caso de muestreo sin reemplazo, puede consultarse el artículo de Serfling (1974).

Véase también

editar

Referencias

editar

Bibliografía

editar