Nem egyforma valószínűségű nyelvi elemek


Egy adott "nyelvben" a választható elemek valószínűsége nem egyenlő (pl. ezeket a szavakat "abban az esetben" nagyobb valószínűséggel követi a "ha" szó, mint az "elefánt"). Ugyanígy például a "Konstantinápoly halászat piszkos rózsaszín" szavak egymás utáni előfordulása csaknem 0, de elképzelhető, hogy egy mondat végén és egy másik elején egymás mellé kerülnek (de ebben a szövegben is előfordulnak).
C.E. Shannon - W. Weaver (1949) [irodalom.txt -Weaver]