正文內容

【安全課件】第4講--shannon信息論-全文預覽

2026-03-25 17:35 上一頁面

下一頁面

　　

【正文】有： npp bniibi loglog1?? ?? 121 ???? nppp ?0?ip nppp , 21 ? 且等號成立的充要條件是諸 pi全相等 . 證明：注意此推論中條件與 Jensen不等式中條件不同，故證明如下。這個實驗也稱為一個隨機事件。 ?如果你事先一無所知 ,說明我提供的信息量最多 . ?不知道意味著在我告訴你之前你只能猜測 ! ?猜測就是按照每個可能結果的出現概率進行猜測 ! ?因此 ,你只知道這個事情的每個結果的發生概率 ! ?所以 ,我提供的信息量就是由你事先知道的每個可能結果的發生概率 (即隨機事件的概率分布 )決定 . 14 現代密碼學解放軍信息工程大學電子技術學院簡單地說 ,信息就是 : (1) 當未知的變成已知的之后獲取的信息。特等獎號碼的信息只有在開獎時才獲得。 8 現代密碼學解放軍信息工程大學電子技術學院保密系統 9 現代密碼學解放軍信息工程大學電子技術學院保密系統 ? 設計目的：使得竊聽者即使完全準確地接收帶了信道上傳輸的信號也無法恢復出原始的信息。打個比方來說，在周圍干擾嚴重的情況下，要想使對方聽清楚，你就只有慢慢地講，甚至還要不斷重復。只有當發生與不發生的概率相同時，事件的熵才達到極大。他在文中用非常簡潔的數學公式定義了信息時代的基本概念：熵。 1941年他加入了貝爾實驗室數學部，在此工作了 15年。1940年獲得麻省理工學院數學博士學位和電子工程碩士學位。 3 現代密碼學解放軍信息工程大學電子技術學院香農理論簡介第一篇文章奠定了香農信息基本理論的基礎。根據香農的定義，確定發生的事件如“太陽從東邊升起”與確定不發生的事件如“太陽從西邊升起”，其熵都是零。從這一個公式導出的為達到無失真通訊的傳輸速率的極限，現已稱為香農極限。 ? PC機上常用的 WinZip (無損壓縮算法 ) ? 手機通訊 (有損壓縮 ?無損壓縮 ,糾錯 ) ? 在因特網上傳遞多媒體數據（ MP3音樂壓縮格式） 6 現代密碼學解放軍信息工程大學電子技術學院第三章 Shannon保密理論 ? 密碼體制的數學模型 ? 隨機事件的熵及其性質 7 現代密碼學解放軍信息工程大學電子技術學院通信系統信源編碼器解碼器接收者干擾源信道設計目的：在信道有干擾的情況下，使得接收者接收到的信息無差錯或差錯盡可能的小。例 2 設電腦彩票由 8個 10進制數組成 .在開獎之前，我們不知道特等獎號碼的信息，因為特等獎的號碼是不確定。 ?如果你事先全知道了 ,說明我提供的信息量等于 0。 (3) 一個隨機變量包含的信息 . 其中 (1)和 (2)的含義相同 ,它們比 (3)的意義更加廣泛 . 15 現代密碼學解放軍信息工程大學電子技術學院隨機事件和隨機變量定義 1：設一個實驗有共 n個可能的結果，則每個可能結果都稱為一個事件。當以 10為底時 ,其單位稱為迪特 (Det)。0)( ?ixp(2) 當且僅當 i? 。當且僅當兩個實驗獨立時 ,二者才相等 . 直觀含義 : 33 現代密碼學解放軍信息工程大學電子技術學院 )()( YHXH ?證明 (1) 因 ? ?? ???nimjjiji yxpyxpYXH1 1),(log),(),(,故有 ? ?? ???nimjjiji ypxpyxp1 1)()(log),(下證 . 0)()(),( ??? YHXHYXH???????mjjjniii ypypxpxp11)(log)()(log)(再由 ??mjjii yxpxp1),()(和 ???nijij yxpyp1),()(得 ? ?? ???nimjiji xpyxp1 1)(log),(? ?? ??nimjjji ypyxp1 1)(log),()()( YHXH ?34 現代密碼學解放軍信息工程大學電子技術學院因 ? ?? ???nimjjiji yxpyxpYXH1 1),(log),(),(,故有 ? ?? ?? ?? ???nimjjijinimj jiji ypxpyxpyxpyxp1 11 1)()(log),(),( 1log),()()(),( YHXHYXH ??? ?? ??nimj jijiji yxpypxpyxp1

點擊復制文檔內容

教學課件相關推薦

【安全課件】第4講--shannon信息論-全文預覽

信息論實驗報告-資料下載頁

信息論基礎——總復習-資料下載頁

信息論與編碼第2章習題解答-資料下載頁

信息論基礎1答案-資料下載頁

葉中行信息論課件第五章-資料下載頁

信息論與編碼課件第二章-資料下載頁

信息論與編碼答案-資料下載頁

信息論試卷word版-資料下載頁

公平論與商務談判、信息論與商務談判-資料下載頁

信息論第三章ppt課件-資料下載頁

信息論復習知識點-資料下載頁

決策樹信息論c45算法-資料下載頁

信息論與編碼基礎緒論-資料下載頁

信息論與編碼復習總結-資料下載頁

信息論與編碼試題集-資料下載頁

【安全課件】第4講--shannon信息論-文庫吧在線文庫

【安全課件】第4講--shannon信息論(完整版)

【安全課件】第4講--shannon信息論(更新版)

【安全課件】第4講--shannon信息論(專業版)

【安全課件】第4講--shannon信息論(留存版)