Informácia – definícia a výpočet

1. Informácia – definícia a výpočet

2. Informácia • Informácia je výsledok vyhodnocovania zmyslových vnemov, spracovania alebo organizácie dát • Aj napriek tomu, že mnohí ľudia hovoria o „informačnom veku“, „informačnej spoločnosti“ a „informačných technológiách“, neexistuje jednotná definícia tohto termínu • Jeho význam sa totiž mení podľa kontextu a úzko súvisí s ďalšími témami ako je znalosť, komunikácia alebo poznanie

3. Informácia ako správa • Informácia je správa, posielaná od vysielača k prijímaču po určitom komunikačnom médiu (vzduch, vodič, ...) nejakým komunikačným kanálom (svetlo, zvuk, ...) • Šum ruší komunikáciu a znižuje jej zrozumiteľnosť • V tomto význame informácia predpokladá existenciu vysielača a prijímača a je teda nejakou správou, ktorá má svojho odosielateľa a prijímateľa

4. Pojmy • Údaje sú akékoľvek vyjadrenie skutočnosti v podobe určitých symbolov vhodných pre komunikáciu, uloženie a spracovanie • Správa je postupnosť akýchkoľvek rozlíšiteľných prvkov - symbolov • Znak je grafická podoba symbolu reprezentujúci údaj • Abeceda je množina všetkých prvkov ktoré slúžia k zobrazeniu správy • Kódovanie je transformácia správy z jednej abecedy do inej

5. Rozdelenie informácií • Syntaktické – určujú, akým spôsobom sa reprezentuje správa (jazyk, pravidlá jazyka, potvrdzovanie správ, ...) • Sémantické – význam priradený jednotlivým symbolom (samotný význam slov) • Pragmatické – obsah celej správy (čo mi správa dala, čo som si z nej odniesol)

6. Informácia ako zmenšenie neurčitosti • Informácia je správa, ktorá spôsobí zmenšenie neurčitosti • Neurčitosť odstránime ak sa dozvieme jednu možnosť z ostatných alternatív • Neurčitosť je možné zjednodušene chápať ako pravdepodobnosť nejakého javu • Čím bude pravdepodobnosť menšia, tak informácia ktorú sa dozviem bude väčšia

7. Výpočet veľkosti informácie • Majme nejaký jav ktorý nastáva s pravdepodobnosťou p - dá sa ľahko uveriť že ak p=1 tak I=0 • Ak viem že jav nastáva s pravdepodobnosťou 1 tak sa nedozviem žiadnu informáciu (neurčitosť je nulová) • Nasledovná vlastnosť je tiež ľahko pochopiteľná - majme dva javy každý nastáva s pravdepodobnosťou p1, p2 - ak p1<p2 potom I1>I2

8. Výpočet veľkosti informácie • No a ešte jedna vlastnosť sa dá v celku ľahko overiť - ak sledujeme, či oba javy nastanú súčasne tak pravdepodobnosť bude p=p1*p2 a pre množstvo informácie by malo platiť I= I1+I2 • Pre výpočet informácie hľadáme teda takú funkciu I=f(p), ktorá spĺňa nasledovné podmienky: • f(1)=0 • ak p1<p2 potom f(p1)>f(p2) • f(p1*p2)= f(p1)+f(p2)

9. Výpočet veľkosti informácie • Keď dáte takúto otázku dobrému matematikovi okamžite odpovie že takú funkciu pozná, je to funkcia logaritmus. Pre ďalšie vlastnosti hľadanej funkcie nakoniec došli kybernetici ku vzťahu: I = -logx(p) • Podľa základu logaritmu (v našom prípade to malé x) určujeme jednotku informácie • Ak x=2, potom jednotkou je bit. Ak x=10 jednotkou je dit.

10. Jednotka informácie • Ako jednotka informácie sa začala v oblasti výpočtovej techniky používať jednotka s názvom bit (binary digit) a jej násobky • B (bajt) = 8 bitov (23 b) • kB (kilobajt) = 1024 B (210 B) • MB (megabajt) = 1024 kB (220 B) • GB (gigabajt) = 1024 MB (230 B) • TB (terrabajt) = 1024 GB (240 B) • 1 bit je teda jednotka, ktorá vyjadruje stav, že určitý jav nastal s 50% pravdepodobnosťou pretože I= -log2(0,5) = - (-1) = 1

11. Logaritmus • Na väčšine kalkulačiek sa dá vypočítať len logaritmus so základom 10 alebo e • Ak potrebujeme vypočítať logaritmus so základom x, môžeme použiť pravidlo

12. Príklad • Vypočítajte informačnú hodnotu hodu kockou • Pravdepodobnosť, že padne ľubovoľné číslo pri hode hracou kockou (šesťstrannou) je 1/6

13. Úlohy • Vypočítajte informačnú hodnotu správy, ktorá obsahuje mesiac a deň narodenia určitej osoby • Vypočítajte informačnú hodnotu prijatia znaku Morseovej abecedy, ak pravdepodobnosť prijatia bodky je 0,72 • Vypočítajte akú informačnú hodnotu má ak sa dozviem koľko je hodín s presnosťou na minúty • Vypočítajte aká je informačná hodnota javu že na dvoch hracích kockách padne súčet 7 v bitoch