Existe um teorema que diz: o condicionamento reduz a entropia, ou seja, H(X|Y) é menor ou igual a H(X), havendo a igualdade apenas no caso em que X e Y são independentes. Este teorema é muito importante no mundo jurídico, pois diz que o conhecimento sobre uma outra variável aletória Y apenas reduz a incerteza sobre a variável aleatória X. Mas é muito importante ressaltar que isto é verdadeiro apenas tomando-se a média, ou seja, com o conhecimento de uma evidência específica, H(X|Y=y) pode ser maior, menor ou igual a H(X). O conhecimento de uma nova evidência pode aumentar a incerteza sobre uma variável, mas na média o que se observa é a diminuição da incerteza, pois H(X|Y) = somatório em y de p(y)H(X|Y=y) que é menor ou igual a H(X).
Nenhum comentário:
Postar um comentário