Információelmélet 1 Eszterházy Károly Főiskola, Eger Médiainformatika intézet Információs Társadalom Oktató- és.

Az előadások a következő témára: "Információelmélet 1 Eszterházy Károly Főiskola, Eger Médiainformatika intézet Információs Társadalom Oktató- és."— Előadás másolata:

1 Információelmélet 1 Eszterházy Károly Főiskola, Eger Médiainformatika intézet kbert@ektf.hu http://www.ektf.hu/~kbert Információs Társadalom Oktató- és Kutatócsoport Komenczi Bertalan A matematikai információelmélet

2 1. Bevezetés 2. Anyag, energia, információ 3. Az információfogalom értelmezései 4. Matematikai információelmélet. Bináris logika. Kódolás 5. Planetáris információs rendszerek 6. Információs folyamatok a molekulák szintjén 7. Az emberi agy mint információs rendszer 8. Információ, jel, jelentés a szemantikai információelméletben 9. Információ és nyelvhasználat – a nyelvi jel 10. Információ és kommunikáció a társadalomban 11. Információrobbanás, virtuális világkönyvtár 12. Összefoglalás

3 Információforrás Üzenet Adó Jel Csatorna Kódolás Vevő Dekódolás Zaj Rendeltetési hely Az információtovábbítás Shannon-Weaver modellje Üzenet Zajforrás Jel 1. Információ mint üzenet Claude Shannon 1.2.Az információfogalom értelmezései

4 Az információ valamilyen sajátos statisztikai szerkezettel rendelkező jelkészletből összeállított, időben és/vagy térben elrendezett jelek sorozata, amellyel az adó egy dolog jelkészletből állapotáról, vagy egy jelenség lefolyásáról közöl adatokat, amelyeket egy vevő felfog és értelmez. Információ mindaz, ami kódolható és egy megfelelő csatornán továbbítható. Információ mint üzenet A matematikai információelmélet

5 0 1 2 3 4 5 6 7 8 9 A Á B C D E É F G H I Í J K L M N O Ó Ö Ő P Q R S T U V Z X Y 0 1 Adenin Guanin Timin Citozin Jelrendszerek- jelkészletek Az információfogalom műszaki-matematikai értelmezése A matematikai információelmélet

6 Az információ fogalma nem az egyedi üzenetekre vonatkozik (mint a jelentésé!), hanem mindig egy helyzetre, egy összetett rendszer egészére. Az információ mennyisége azzal a bizonytalanságcsökkenéssel arányos, amely akkor történik, ha megtudjuk, melyik jelről van szó. Az információmennyiség meghatározása 2. Az információfogalom műszaki-matematikai értelmezése elemi eseményrendszer lehetséges események összessége

7 Az információmennyiség meghatározása I(A) = log 2 1/P(A) A Shannon képlet P(A) I (A) 2. Az információfogalom műszaki-matematikai értelmezése A esemény bekövetkezésének a valószínűsége A esemény információtartalma I (A) = 1/P(A) Az információ a valószínűség reciproka

8 Az információmennyiség meghatározása I(A) = log 2 1/ P(A) A Shannon képlet P(A) 2. Az információfogalom műszaki-matematikai értelmezése A esemény bekövetkezésének a valószínűsége A esemény információtartalma ? A Á B C D E É F G H I Í J K L M N O Ó Ö Ő P Q R S T U V Z X Y 1/32 I(A) = log 2 1/ 1/32 = log 2 32 = 5 Elemi eseményrendszer

9 A Á B C D E É F G H I Í J K L M N O Ó Ö Ő P Q R S T U V Z X Y 00010000110000100000 Az információmennyiség mérése bináris kódolással! K ó d o l á s Bináris logika és kódolás

10 Tetszőleges halmaz bármely elemének meghatározásakor úgy célszerű eljárni, hogy az egész halmazt, illetve egyre kisebb részeit mindig kétjelű jelkészlettel írjuk le, amellyel azt az üzenetet fejezzük ki, hogy valami ott van az adott rendszerfélben vagy nincs ott. A világon minden alávethető ennek a digitális felaprózásnak. Bináris logika 2. Az információfogalom műszaki-matematikai értelmezése

11 Bináris logika A kettes alapú logaritmus és a kettes számrendszer választása azért természetes, mert világunk olyan rendszerekből tevődik össze, amelyek bármelyik eleme definiálható olyan módon, hogy a rendszer egészét vesszük egy meghatározatlansági, bizonytalansági mezőnek, és azt lépésről lépésre felezzük, míg eljutunk a keresett vagy meghatározni kívánt elemhez. Az információfogalom műszaki-matematikai értelmezése

12 Gottfried W. von Leibnitz „a bináris aritmetikában mindössze két szám, a 0 és az 1 használatos, és ezekkel az összes többi szám is leírható… és ami még fontosabb, az ezen alapuló kétértékű logikai rendszer.” „A bináris számításokat el lehetne végezni olyan géppel, amelyben nem lennének fogaskerekek.... A gépnek olyan tárolói lennének, amelyek bemenete egy zárható nyílás lenne. Ennek a nyitott állapota az 1-nek, míg zárt állapota a 0-nak felelne meg Bináris logika Az információfogalom műszaki-matematikai értelmezése

13 Neumann János von Neumann architecture First Draft of Report, 1945 ENIAC, 1944 1903-1957 „Meg kell azonban jegyeznem, hogy az imént felvázolt tízértékű jelölő nyilvánvalóan tíz kétértékű jelölőből álló csoportot testesít meg, tehát erősen redundáns..... Ugyanebben a keretben már négy kétértékű csoporttal is elérhetnők a kívánt eredményt... Kettes számrendszerben végezve a műveletet, … átlátszóbbá és szembeötlőbbé válik azok logikai jellege. Bináris logika Az információfogalom műszaki-matematikai értelmezése

14 A hírközlés szemantikai vonatkozásai műszaki szempontból teljesen közömbösek 1.2.Az információfogalom értelmezései I nformáció mint üzenet Az információtól az információs társadalomig