Információelmélet 1 Eszterházy Károly Főiskola, Eger Médiainformatika intézet Információs Társadalom Oktató- és Kutatócsoport Komenczi Bertalan A matematikai információelmélet

1. Bevezetés 2. Anyag, energia, információ 3. Az információfogalom értelmezései 4. Matematikai információelmélet. Bináris logika. Kódolás 5. Planetáris információs rendszerek 6. Információs folyamatok a molekulák szintjén 7. Az emberi agy mint információs rendszer 8. Információ, jel, jelentés a szemantikai információelméletben 9. Információ és nyelvhasználat – a nyelvi jel 10. Információ és kommunikáció a társadalomban 11. Információrobbanás, virtuális világkönyvtár 12. Összefoglalás

Információforrás Üzenet Adó Jel Csatorna Kódolás Vevő Dekódolás Zaj Rendeltetési hely Az információtovábbítás Shannon-Weaver modellje Üzenet Zajforrás Jel 1. Információ mint üzenet Claude Shannon 1.2.Az információfogalom értelmezései

Az információ valamilyen sajátos statisztikai szerkezettel rendelkező jelkészletből összeállított, időben és/vagy térben elrendezett jelek sorozata, amellyel az adó egy dolog jelkészletből állapotáról, vagy egy jelenség lefolyásáról közöl adatokat, amelyeket egy vevő felfog és értelmez. Információ mindaz, ami kódolható és egy megfelelő csatornán továbbítható. Információ mint üzenet A matematikai információelmélet

A Á B C D E É F G H I Í J K L M N O Ó Ö Ő P Q R S T U V Z X Y 0 1 Adenin Guanin Timin Citozin Jelrendszerek- jelkészletek Az információfogalom műszaki-matematikai értelmezése A matematikai információelmélet

Az információ fogalma nem az egyedi üzenetekre vonatkozik (mint a jelentésé!), hanem mindig egy helyzetre, egy összetett rendszer egészére. Az információ mennyisége azzal a bizonytalanságcsökkenéssel arányos, amely akkor történik, ha megtudjuk, melyik jelről van szó. Az információmennyiség meghatározása 2. Az információfogalom műszaki-matematikai értelmezése elemi eseményrendszer lehetséges események összessége

Az információmennyiség meghatározása I(A) = log 2 1/P(A) A Shannon képlet P(A) I (A) 2. Az információfogalom műszaki-matematikai értelmezése A esemény bekövetkezésének a valószínűsége A esemény információtartalma I (A) = 1/P(A) Az információ a valószínűség reciproka

Az információmennyiség meghatározása I(A) = log 2 1/ P(A) A Shannon képlet P(A) 2. Az információfogalom műszaki-matematikai értelmezése A esemény bekövetkezésének a valószínűsége A esemény információtartalma ? A Á B C D E É F G H I Í J K L M N O Ó Ö Ő P Q R S T U V Z X Y 1/32 I(A) = log 2 1/ 1/32 = log 2 32 = 5 Elemi eseményrendszer

A Á B C D E É F G H I Í J K L M N O Ó Ö Ő P Q R S T U V Z X Y Az információmennyiség mérése bináris kódolással! K ó d o l á s Bináris logika és kódolás

Tetszőleges halmaz bármely elemének meghatározásakor úgy célszerű eljárni, hogy az egész halmazt, illetve egyre kisebb részeit mindig kétjelű jelkészlettel írjuk le, amellyel azt az üzenetet fejezzük ki, hogy valami ott van az adott rendszerfélben vagy nincs ott. A világon minden alávethető ennek a digitális felaprózásnak. Bináris logika 2. Az információfogalom műszaki-matematikai értelmezése

Bináris logika A kettes alapú logaritmus és a kettes számrendszer választása azért természetes, mert világunk olyan rendszerekből tevődik össze, amelyek bármelyik eleme definiálható olyan módon, hogy a rendszer egészét vesszük egy meghatározatlansági, bizonytalansági mezőnek, és azt lépésről lépésre felezzük, míg eljutunk a keresett vagy meghatározni kívánt elemhez. Az információfogalom műszaki-matematikai értelmezése

Gottfried W. von Leibnitz „a bináris aritmetikában mindössze két szám, a 0 és az 1 használatos, és ezekkel az összes többi szám is leírható… és ami még fontosabb, az ezen alapuló kétértékű logikai rendszer.” „A bináris számításokat el lehetne végezni olyan géppel, amelyben nem lennének fogaskerekek.... A gépnek olyan tárolói lennének, amelyek bemenete egy zárható nyílás lenne. Ennek a nyitott állapota az 1-nek, míg zárt állapota a 0-nak felelne meg Bináris logika Az információfogalom műszaki-matematikai értelmezése

Neumann János von Neumann architecture First Draft of Report, 1945 ENIAC, „Meg kell azonban jegyeznem, hogy az imént felvázolt tízértékű jelölő nyilvánvalóan tíz kétértékű jelölőből álló csoportot testesít meg, tehát erősen redundáns..... Ugyanebben a keretben már négy kétértékű csoporttal is elérhetnők a kívánt eredményt... Kettes számrendszerben végezve a műveletet, … átlátszóbbá és szembeötlőbbé válik azok logikai jellege. Bináris logika Az információfogalom műszaki-matematikai értelmezése

A hírközlés szemantikai vonatkozásai műszaki szempontból teljesen közömbösek 1.2.Az információfogalom értelmezései I nformáció mint üzenet Az információtól az információs társadalomig