Průkopníci informačního věku (10.): Claude Shannon

Americký matematik a elektroinženýr formuloval teorie, které zásadně ovlivnily nejen informatiku a kybernetiku, ale i řadu dalších vědeckých oborů. Mimo jiné mu vděčíme za exaktní definici pojmu informace.

Průkopníci informačního věku (10.): Claude Shannon


„Měl jsem štěstí, byl jsem tenkrát shodou okolností zřejmě jediný, kdo důvěrně znal obě disciplíny.“ Těmito slovy Claude Shannon v polovině 70. let vyjádřil, proč se právě jemu podařilo objevit teorie, které měly klíčový význam pro další vývoj informačních a komunikačních technologií. Pokud se ohlédneme do minulosti, nelze nevidět, že do konce druhé světové války probíhal vývoj výpočetní technologie chaoticky, a i když několik vědců na obou stranách Atlantiku dosáhlo pozoruhodných výsledků, chyběl zde pevný sjednocující teoretický základ. I ten krystalizoval postupně, v nesčetných pracích matematiků a inženýrů, které do sebe v průběhu čtyřicátých let 20. století začaly zapadávat jako díly skládačky puzzle.

Významné teoretické poznatky pro vytvářející se informatiku, jak jsme mohli již v našem putování pozorovat, přinesli v té době Alan Turing a John von Neumann. Základní teoretické „díly“ oné pomyslné skládačky formuloval ovšem americký matematik a elektroinženýr Claude Shannon. Tento pozoruhodný vědec vytvořil ve svých mladých letech jak teorii spínacích obvodů, která mimo jiné ukázala směr rozvoje digitálních počítačů, tak teorii informace a komunikace, v níž formuloval základní principy informatiky od pojmu informace jako takového po vyjádření principů souvisejících s přenosem, úpravami, kódováním, dekódováním, ukládáním či měřením informací. Jeho práce Matematická teorie komunikace ustanovila informatiku a počítačovou vědu jakožto exaktní vědní odbor.

Claude Shannon se narodil v roce 1916 v Gaylordu, ve státě Michigan. Rodina, v níž vyrůstal, byla intelektuálně založená; otec pracoval jako soudce a matka byla učitelkou cizích jazyků (později vykonávala funkci ředitelky místní High School). V dětství na něj ovšem měl značný vliv i jeho podnikavý dědeček, který byl vynálezcem a za své vynálezy a vylepšení získal několik patentů. Mladý Claude Shannon byl doslova fascinován mechanickými a elektrickými přístroji – idolem jeho dětských let byl Thomas Alva Edison, fenomenální vynálezce, který, jak se později ukázalo, byl dokonce jeho vzdáleným strýcem.

Vášeň pro elektrické přístroje všeho druhu určila i obor, který začal studoval na michiganské univerzitě. Během studia elektrického inženýrství jej však čím dál více poutala i matematika, takže nakonec získal titul jak z elektrického inženýrství, tak i matematiky. Všechna rozhodnutí ohledně jeho budoucnosti byla logická a vycházela z rozumné úvahy. Další krok, který mladý Shannon učinil po dokončení bakalářského studia, byl sice také logický, ale vycházel z rozhodnutí učiněného na základě náhody. Jednoho dne ho upoutal inzerát, v němž Elektrotechnická fakulta Massachusettského technologického institutu (MIT) hledala technika, který by byl ochoten se zapojit do týmu konstruktérů tzv. diferenciálního analyzátoru. Shannon neváhal ani chvíli. A tak se stalo, že se v polovině roku ocitl v massachusettském Cambridgi a jako asistent konstruktéra začal v týmu Vannevara Bushe pracovat na sestrojení analogového počítače.

 

Teorie konečných automatů

MIT ve třicátých letech minulého století byl jedním z nejinspirativnějších center světového technologického výzkumu. V té době zde začali přednášet Vannevar Bush a Norbert Weiner, pozdější zakladatel kybernetiky; studovali zde například Richard Feynman (fyzik, který proslul významnými objevy v oboru kvantové teorie), William Hewlett (zakladatel počítačové společnosti Hewlett-Packard) či William Shockley (člen týmu, který vynalezl tranzistor).

Vannevar Bush, jenž se v roce 1932 stal děkanem tamní elektrotechnické fakulty, se ve své výzkumné práci zabýval jak konstrukcí analogového počítače, tak i problematikou organizace informací. Bushův diferenciální analyzátor byl z části mechanický, ale podstatnou funkční jednotku tohoto přístroje tvořily i elektrická relé a obvody. Shannon, který kromě konstrukční práce pokračoval na MIT ve studiu, se zajímal právě o elektromechanickou jednotku, přičemž si kladl otázku, zda by bylo možné vytvořit jednoduchou matematickou formalizaci popisující funkčnost obvodů. Byla to nosná myšlenka a mladý vědec se jí po konzultaci s kolegy začal vážně zabývat. Posléze na algebře spínacích obvodů založil i svou diplomovou práci, kterou nazval Symbolická analýza reléových a spínacích obvodů (A Symbolic Analysis of Relay and Switching Circuits, 1938).

Že diplomová práce založí novou vědní disciplínu, to se stává velmi zřídka. Shannonovi se tento kousek podařil. Jeho práce sice v prvním plánu pojednávala o ryze praktické záležitosti, a to o návrzích reléových sítí, které se tehdy používaly v telefonních ústřednách (a nacházely si i uplatnění při konstrukci elektromechanických počítačů), ale v obecnější rovině jeho metodika symbolického popisu položila základy teorie konečných automatů, bez níž by byl pozdější vývoj informatiky nepředstavitelný.

V čem spočíval hlavní přínos jeho práce? Shannona již dříve upoutala Booleova algebra a stejně jako John Atanasoff a později i Konrád Zuse si uvědomil, že funkčnost relé je podmíněna dvěma stavy (AND neboli zapnuto a NOT neboli vypnu­to), které jsou identické se symbolikou logických výroků (pravda či nepravda), a že propojení elektronických relé lze jednoduše vyjádřit pomocí Booleovy logiky. Technici pracující v telekomunikacích do té doby neměli žádná obecná pravidla pro vzájemná propojování relé, takže zpravidla postupovali intuitivně či na základě metody „pokus-omyl“, dokud zařízení nefungovalo tak, jak mělo. Shannon využil do té doby zcela abstraktní matematickou logiku k vypracování užitečných postupů pro konstrukci sítí. Nebyl první, koho tato myšlenka napadla, ale byl prvním, kdo ji rozpracoval do konzistentní matematické teorie.

Jeho diplomová práce měla ovšem ještě dalekosáhlejší důsledky. Vytvořila základ, na němž stojí princip digitálního počítače. Nesnáze, které dělaly těžkou hlavu raným počítačovým průkopníkům od Babbage až po Mauchlyho, byly totiž způsobeny i lpěním na desítkové soustavě. Shannon přesvědčivě dokázal, že těmto problémům se lze vyhnout pomocí logiky založené na extrémně malé množině, obsahující jen dva prvky: jedničku a nulu (resp. zapnuto a vypnuto).

Na návrh Vannevara Bushe aplikoval Shannon principy matematické logiky i na mendelovskou genetiku, a to ve své doktorské práci s titulem Algebra pro teoretickou genetiku (An Algebra for Theoretical Genetics, 1940). Tato práce mu sice zajistila doktorát, ale nebyla tak významná jako jeho práce diplomová. Než se zapojil do další výzkumné činnosti, odešel na krátkou dobu do princetonského Institutu pro pokročilá studia, kde se seznámil s řadou významných vědců té doby, zejména s matematiky Hermannem Weylem a Johnem von Neumannem, kteří mu poskytli v několika bodech inspiraci pro pozdější práci na teorii informace.

 

Roky v Bell Labs

Shannonova teorie spínacích obvodů vzbudila ve vědeckém světě velký ohlas. Když podle ní vědci z Bellových laboratoří poprvé vytvořili návrhy telefonních ústředen, přesvědčili se o tom, jaký mocný nástroj v této teorii získali. Vedení Bellových laboratoří záhy oslovilo mladého matematika, zda by k nim nepřišel pracovat. Shannon tuto nabídku přijal a v roce 1941 se přesunul z Princetonu do Murray Hills ve státě New Jersey, kde laboratoře sídlily. V té době, v předvečer vstupu Spojených států do druhé světové války, byly Bell Labs nenápadným, ale zato dobře financovaným vědeckým ústavem, zaměřujícím se především na vývoj telefonní technologie.

O tom, že čtyřicátá léta 20. století patřila k nejplodnějším desetiletím tohoto vědeckého střediska, svědčí především dva objevy, které zde v tomto období spařily světlo světa: objev tranzistoru a formulace teorie informace. Oba měly zásadní vliv na vývoj moderních technologií druhé poloviny 20. století. A oba byly do jisté míry vedlejším projevem válečného úsilí Spojených států.

V té době byl zde – stejně jako v jiných amerických vědeckých centrech – takřka veškerý výzkum zaměřen na vývoj technologií souvisejících s armádou. Laboratoře se společně s MIT podílely zejména na vývoji zaměřovacích přístrojů určených pro protivzdušnou obranu. A protože tyto zaměřovače byly založeny na Bushově diferenciálním analyzátoru, na jehož konstrukci se Shannon podílel, staly se znalosti a zkušenosti mladého matematika a elektroinženýra pro tým velmi cenné. Kromě toho se ovšem stejně jako například Alan Turing zabýval kryptografií a problematikou co nejefektivnějšího využití komunikačních kanálů. (S Turingem se Shannon setkal v roce 1943, kdy tento britský matematik navštívil Spojené státy, a dlouze s ním probíral jak otázky spojené s kryptoanalýzou, tak i problematiku jeho návrhu tzv. Turingova stroje.)

Válečná léta strávená v Bellových laboratořích byla obdobím, kdy se postupně – na pozadí Shannonovy činnosti spojené s vývojem zaměřovačů a účinných metod kryptografie – rodila koncepce informace. Shannon, povahou velmi sdílný a přátelský, byl racionálním, uvážlivým člověkem, ale podobně jako řada jiných vědců nepostrádal nepřehlédnutelné rysy výstřednosti – do ústavu jezdil na vlastnoručně vyrobené jednokolce a měl zvláštní zálibu v žonglování. To způsobovalo, že jej nezasvěcení pozorovatelé s nemalým údivem považovali za cirkusáka, jenž se jakýmsi nedopatřením ocitl ve výzkumném ústavu.

Jeho vědečtí přátelé a spolupracovníci později vzpomínali, že s nimi čas od času svoje myšlenky spojené s teorií informace konzultoval, nezřídka ovšem jen tak mimochodem, jakoby na okraj jejich původní práce.

Teorie informace, obdobně jako v případě teorie konečných automatů, byla do značné části průnikem poznatků z již existujících disciplín, zvláště z matematické statistiky a teorie pravděpodobnosti, kryptografie, elektrotechniky, ale také termodynamiky, z níž na návrh von Neumanna převzal pojem entropie. Shannona při práci na navrhování šifer upoutala především problematika přenosu zpráv a byl přesvědčen, že musí existovat matematické vztahy mezi dobou přenosu, šířkou frekvenčního pásma, šumem a množstvím přenesené informace. Postupně tyto vztahy formuloval a některé popsal v článcích a zprávách určených pro vnitřní potřebu Bell Labs. Po válce se v důsledku naléhání svých spolupracovníků rozhodl, že své poznatky shrne do souhrnné studie, kterou nazval Matematická teorie komunikace (A Mathematical Theory of Communication, 1948). Dnes je tato práce považována za klasický, ba přímo zakladatelský text informatiky.

 

Co je informace?

V pozadí Shannonova matematického vyjádření principů komunikace stály jednoduché otázky: Co je to vlastně informace? Jakým způsobem lze informaci měřit? Jak ji porovnávat v přenosu ve vysílaných a přijímaných zprávách? Tyto otázky souvisely jak s problematikou telekomunikací, tak i kryptografií, při níž vědci, aniž se nad tím většina z nich takto pozastavovala, luštili zašifrované skupiny písmen zdánlivě bez jakéhokoli smyslu. Jejich úkolem vlastně bylo velikost informace oddělit od obsahového kontextu, což nezřídka znamenalo rozložit zprávu na nejmenší části, tedy jednotlivé znaky, a pak zkoumat informaci nesenou jediným znakem. Shannon neučinil nic menšího, než že se pokusil tyto procesy spojené s rozpoznáním a přenosem informace na základě statistiky matematicky vyjádřit.

Aby to bylo možné, musel nejprve identifikovat univerzální jednotku informace. Označil ji jako „binary digit“ neboli zkráceně „bit“, přičemž stanovil, že jeden bit reprezentuje informaci získanou odpovědí na jednu otázku typu ano/ne, u které je apriorní pravděpodobnost obou odpovědí stejná (odpověď pak lze vyjádřit jednou z dvojice číslic 0 či 1). Na základě tohoto určení kapacity sdělovacího kanálu (či média) rozvinul Shannon jak teorii přenosu dat (bez ohledu na jejich sémantiku), tak teorii datové komprese (související s kritériem věrnosti reprodukce zprávy). Obě tyto teorie pak vzájemně propojil a vyvážil ve větách o přenosech informací a oddělením zdrojů informace od sdělovacích kanálů, přičemž definoval pojem informační entropie, charakterizovaný jako neurčitost (popřípadě organizovanost) celého zdroje jakožto průměru z informací nesených jeho jednotlivými znaky.

Rozverný důchodce

Ve svých třiatřiceti letech se Claude Shannon stal jednou z vůdčích osobností dvou vznikajících oborů: informatiky a kybernetiky. Po návratu na MIT, kde začal působit ve výzkumné laboratoři (Research Laboratory of Electronics, RLE), jej upoutala problematika umělé inteligence a učících se strojů. Aby dokázal, že nejde jen o teoretický koncept, sestrojil zařízení označované jako Theseum neboli Shannonova myš, které je považováno za první učící se stroj.

Byl to malý vozík řízený počítačem, který projížděl labyrintem složeným z pětadvaceti čtverců. Program byl sestaven tak, že si ukládal do paměti jednotlivé varianty cesty, ty po dalším pokusu vyhodnotil, což mu umožňovalo projet nejkratší cestou k cíli. Vedle tohoto zařízení napsal studii Programování počítače pro šachovou hru (Programming a Computer for Playing Chess, 1950), v níž popsal první pravidla pro vytváření šachových počítačových programů.

Své spolupracovníky a přátele Shannon šokoval, když se v pouhých pětačtyřiceti letech, na vrcholu své závratné vědecké kariéry, rozhodl odejít do důchodu. Důvody tohoto rozhodnutí byly prosté: chtěl si nerušeně užívat života, což znamenalo věnovat se pouze svým zálibám, zejména hudbě a cestování, ale také vymýšlením roztodivných přístrojů.

 

Vyšlo v CIO Business World 11/2010

 






Komentáře