Pintura sobre muro; “Perplejidad es una medida utilizada en la TEORÍA DE LA INFORMACIÓN. Se define como 2 elevado a la entropía, o más a menudo como 2 elevado a la entropía cruzada. La última definición es usada frecuentemente en la comparación empírica de modelos probabilísticos”.
La perplejidad de una distribución de probabilidad discreta p se define como
donde H(p) es la entropía de la distribución y x varía entre los distintos eventos.
Asimismo se puede definir la perplejidad de una variable aleatoria X como la perplejidad de la distribución para todos los posibles valores de x.
*TERÍA DE LA INFORMACIÓN es una rama de la teoría matemática de la probabilidad y la estadística que estudia la información y todo lo relacionado con ella: canales, compresión de datos, criptografía y temas relacionados.
Fue iniciada por Claude E. Shannon a través de un artículo publicado en el Bell System Technical Journal en 1948, titulado Una teoría matemática de la comunicación (texto completo en inglés).
La información es tratada como magnitud física y para caracterizar la información de una secuencia de símbolos se utiliza la Entropía. Se parte de la idea de que los canales no son ideales, aunque muchas veces se idealicen las no linealidades, para estudiar diversos métodos para enviar información o la cantidad de información útil que se puede enviar a través de un canal.
¿¿?? mejor míra Puerco Radio www.myspace.com/puercoradio ahora míralo en ALTA CALIDAD.
Deja una respuesta