Norbert Wiener
@norbertWiener
Tout comme l'entropie est une mesure de désorganisation, les informations transportées par un ensemble de messages sont une mesure de l'organisation. En fait, il est possible d'interpréter les informations transportées par un message comme essentiellement le négatif de son entropie et le logarithme négatif de sa probabilité. C'est-à-dire que plus le message est probable, moins il donne d'informations. Les clichés, par exemple, sont moins illuminants que les grands poèmes.