El siguiente teorema es un resultado con una gran carga filosófica detrás, el cual mide el cambio que se va produciendo en las probabilidades de los sucesos a medida que vamos haciendo observaciones. Paradógicamente a su importancia, su demostración no es más que la aplicación de la definición de probabilidad condicionada seguida de la aplicación del teorema de la probabilidad total.

Sea un espacio probabilístico (Ω, A, P) y {A_n} A una partición de sucesos de Ω y B A un suceso con probabilidad positiva. Entonces, para todo suceso A_i es

Este teorema tiene una interpretación intuitiva muy interesante. Si las cosas que pueden ocurrir las tenemos clasificadas en los sucesos A_i de los cuales conocemos sus probabilidaes P(A_i), denominadas a priori, y se observa un suceso B, la fórmula de Bayes nos da las probabilidades a posteriori de los sucesos A, ajustadas o modificadas por B.

Supongamos que tenemos una urna delante de nosotros de la cual solo conocemos que o es la urna A₁ con 3 bolas blancas y 1 negra, o es la urna A₂ con 3 bolas negras y 1 blanca.

Con objeto de obtener más información acerca de cual urna tenemos delante, realizamos un experimento consistente en extraer una bola de la urna desconocida. Si suponemos que la bola extraida resultó blanca 1B y a priori ninguna de las dos urnas es más verosímil que la otra, P(A₁) = P(A₂) = 1/2, entonces la fórmula de Bayes nos dice que las probabilidades a posteriori de cada urna son

P(A₁/1B) =3/4   y   P(A₂/1B) =1/4

habiendo alterado de esta forma nuestra creencia sobre la urna que tenemos delante: Antes creíamos que eran equiprobables y ahora creemos que es tres veces más probable que la urna desconocida sea la A₁.

Pero, ¿qué ocurrirá si extraemos otra bola?. Lógicamente, en la fórmula de Bayes deberemos tomar ahora como probabilidades a priori las calculadas, 3/4 y 1/4, pues éstas son nuestras creencias sobre la composición de la urna, antes de volver a realizar el experimento.

Si suponemos que la bola no fue reemplazada (se deja para el lector el caso de reemplazamiento), y sale una bola negra 2N, la fórmula de Bayes nos devolverí a la incertidumbre inicial, ya que sería

P(A₁/2N) =1/2   y   P(A₂/2N) =1/2

Si hubiera salido blanca, la fórmula de Bayes, al igual que la lógica, también sería concluyente,

P(A₁/2B) =1   y   P(A₂/2B) =0

La utilización de la fórmula de Bayes, es decir, la utilización de distribuciones de probabilidad a posteriori como modelos en la estimación de parámetros, al recoger ésta tanto la información muestral, P(B/A_i), como la información a priori sobre ellos, P(A_i), constituye una filosofía inferencial en gran desarrollo en los últimos años, la cual, no obstante, tiene el inconveniente (o según ellos la ventaja) de depender de la información a priori, la cual en muchas ocasiones es subjetiva y por tanto, pudiendo ser diferente de un investigador a otro.