[ Pobierz całość w formacie PDF ]
różnych znaków. Założywszy, że 25 wierszy sześćdziesięcio-znakowych daje w sumie 1500
znaków maszynowych, można więc zapytać: ile różnych kombinacji możemy ułożyć w obrę-
bie owych 1500 znaków używając 85 znaków, którymi pozwa-la dysponować klawiatura
maszyny?
Pełną liczbę komunikatów o długości L, których może nam
dostarczyć klawiatura o liczbie znaków C, otrzymamy podno-
sząc C do potęgi L. W omawianym przypadku wiadomo, że
możemy ułożyć 851S00 komunikatów. Tak się przedstawia
stan równoprawdopodobieństwa komunikatów u zródła; licz-
ba możliwych komunikatów wyrażona jest przy pomocy 2895-
-cyfrowej liczby.
Ile wyborów dwójkowych musimy dokonać, ażeby wyodręb-
nić jeden z tych możliwych komunikatów? Odpowiedz będzie
liczbą bardzo dużą, której samo napisanie wymagałoby dużego
nakładu czasu i energii. Jak wiemy bowiem, każdy z możli-
Teoria informacji
103
wprawdzie na dokonanie rozmaitych kombinacji, ogranicza jednak w ogromnym stopniu liczbę
możliwych wyborów. Konkludując zdefiniujemy więc kod jako sy-stem, który ustala: i.
repertuar różnych symboli;
2. reguły ich kombinacji; 3. i, ewentualnie, odpo-wiedniość między symbolem a znaczeniem
(przy czym nie wszystkie kody muszą koniecznie posiadać łącznie owe trzy cechy7).
Wróćmy teraz do naszego początkowego modelu.
W zbiorniku wodnym mogą zachodzić zjawiska różnego rodzaju. Woda może osiągnąć
nieskończoną ilość poziomów, między którymi istnieją nieskończenie małe różnice. Gdyby-
śmy musieli przekazywać komunikaty o wszystkich możli-wych poziomach,
potrzebowalibyśmy bardzo szerokiego zasobu symboli, a w końcu możemy przecież obejść
się bez wiadomości, czy woda podniosła się albo opadła o jeden milimetr lub dwa. Z
continuum faktów możliwych dokonujemy wyboru sytuacji nieciągłych, dyskretnych,
wyselekcjonowa-nych i wyróżniamy je jako zjawiska ważne dla celów komuni-kacji, która nas
interesuje. Ustaliwszy, że interesuje nas wiadomość, czy woda przechodzi z poziomu 2 do
pozio-mu i, nie obchodzi nas fakt, że woda znajdzie się kilka centymetrów lub kilka
milimetrów powyżej poziomu 2. Poziom 2 przestanie wynosić 2 dopiero wtedy, kiedy
wyniesie i. Reszta nas nie obchodzi, nie jest istotna. Możemy zatem opracować kod, który
66
spośród rozlicznych kombinacji symboli A, B, C i D potraktuje tylko niektóre jako najbardziej
prawdopodobne. Na przykład:
7 Aparatura, którą posłużyliśmy się jako modelem, wyklucza na przy-kład punkt 3. Sygnały,
jakie otrzymuje, nie odpowiadają określone-mu znaczeniu (mogą jedynie odpowiadać
znaczeniu tylko dla tego, kto ustalił kod).
102
Otwarcie, informacja, komunikacja
możliwa i ażeby komunikaty mogły powstać, należy zreduko-wać wartości N i h. Aatwiej jest
bowiem przekazać komunikat, który ma nam dostarczyć informacji o takim układzie elemen-
tów, w którym mogą zajść tylko kombinacje regulowane przez z góry ustalony system. Mniej
wtedy alternatyw, komunikacja jest łatwiejsza.
Kod ze swymi kryteriami porządkującymi ustanawia takie
właśnie możliwości komunikacyjne. Kod jest pewnym
systemem prawdopodobieństwa, narzuconym na
równe prawdopodobieństwo systemu wyjściowego
w celu zapanowania nad jego możliwościami ko-
munikacyjnymi. Przy czym tym, co wymaga takiego ele-mentu uporządkowania, nie jest
wartość statystyczna zwana informacją , ale możliwość jej przekazania.
Przy zastosowaniu kodu zródło o wysokiej entropii, jakim
była klawiatura maszyny do pisania, traci część możliwości
wyboru. W chwili kiedy zabieram się do pisania mając kod
język włoski zródło ma już mniejszą entropię. Innymi sło-
wy, za pomocą klawiatury nie może już powstać 851500 komu-
nikatów jednostronicowych, ale ich liczba o wiele mniejsza,
zredukowana wedle pewnych reguł prawdopodobieństwa
i odpowiadająca pewnemu systemowi przewidywań, a więc
o wiele bardziej przewidywalna. Nawet jeżeli liczba komuni-
katów możliwych na kartce maszynopisu jest zawsze bardzo
wysoka, układ prawdopodobieństw narzucony przez kod
wyklucza przypadek, aby nasz komunikat mógł zawierać
takie np. zestawy liter, jak wxwxxsdewvxvxc (których język
włoski nie dopuszcza poza sformułowaniami metajęzykowymi,
jak powyżej). Wyklucza również taką sytuację, w której po
zestawie symboli ass mogłaby nastąpić litera q, i pozwala
przypuszczać, że znajdzie się tu raczej jedna z pięciu samo-
głosek (od danej samogłoski mogłoby zależeć, z prawdopodo-
bieństwem obliczalnym wedle słownika, pojawienie się słowa
asse lub assimilare czy assumere itd.). Istnienie kodu pozwala
Teoria informacji
105
kodu: na podstawie kodu możemy opracować siedem różnych komunikatów
równoprawdopodobnych. Kod wprowadza więc do systemu fizycznego pewien ład i ogranicza
zakres możli-wych informacji. Ale w granicach komunikatów, które można, posługując się nim,
67
sformułować, sam kod ustanawia pewien system prawdopodobieństwa (który można
ograniczyć jedynie przez wysłanie pojedynczego komunikatu). Pojedynczy komu-nikat, będąc
formą konkretną, wyborem tego właśnie, a nie innego zasobu symboli, ustanawia ład
ostateczny (zobaczymy pózniej, do jakiego stopnia), który się nakłada na (częściowy) nieład
kodu.
Powiemy zatem, że pojęcia takie, jak informaq a (w prze-ciwstawieniu do komunikatu), nieład
(w przeciwstawieniu do ładu), równoprawdopodobieństwo (w przeciwstawieniu do rozkładu
prawdopodobieństwa) są pojęciami względnymi. yródło jest entropiczne w stosunku do kodu,
który ogranicza jego elementy istotne dla celów komunikacji; jednakże kod jest względnie
entropiczny w stosunku do komunikatów, jakie może wytworzyć.
Aad i nieład są pojęciami względnymi: coś może być uporządkowane w stosunku do
uprzedniego nieładu i nie uporządkowane w stosunku do pózniejszego ładu jak możemy
[ Pobierz całość w formacie PDF ]