第一篇：信息論與編碼課程設(shè)計(jì)報(bào)告
河南理工大學(xué)課程設(shè)計(jì)報(bào)告書(shū)
信息論與編碼課程設(shè)計(jì)報(bào)告
設(shè)計(jì)題目： 統(tǒng)計(jì)信源熵與香農(nóng)編碼
專業(yè)班級(jí) 學(xué) 號(hào) 學(xué)生姓名 指導(dǎo)教師 教師評(píng)分
2014年3月24日
河南理工大學(xué)課程設(shè)計(jì)報(bào)告書(shū)
目錄
一、設(shè)計(jì)任務(wù)與要求.................................................2
二、設(shè)計(jì)思路.......................................................2
三、設(shè)計(jì)流程圖.....................................................3
四、程序運(yùn)行及結(jié)果.................................................5
五、心得體會(huì).......................................................6 參考文獻(xiàn)..........................................................6 附錄：源程序........................................................7
河南理工大學(xué)課程設(shè)計(jì)報(bào)告書(shū)
一、設(shè)計(jì)任務(wù)與要求
1、統(tǒng)計(jì)信源熵
要求：統(tǒng)計(jì)任意文本文件中各字符（不區(qū)分大小寫）數(shù)量，計(jì)算字符概率，并計(jì)算信源熵。
2、香農(nóng)編碼
要求：任意輸入消息概率，利用香農(nóng)編碼方法進(jìn)行編碼，并計(jì)算信源熵和編碼效率。
二、設(shè)計(jì)思路
1、統(tǒng)計(jì)信源熵：
統(tǒng)計(jì)信源熵就是對(duì)一篇英文文章（英文字母數(shù)為N），通過(guò)對(duì)其中的a,b,c,d/A,B,C,D.....(不區(qū)分大小寫)統(tǒng)計(jì)每個(gè)字母的個(gè)數(shù)n，有這個(gè)公式P=n/N可得每個(gè)字母的概率，最后又信源熵計(jì)算公式H（x）=??p(xi)logp(xi)i?1n，可計(jì)算出信源熵H,所以整體步驟就是先統(tǒng)計(jì)出英文段落的總字符數(shù)，在統(tǒng)計(jì)每個(gè)字符的個(gè)數(shù)，即每遇到同一個(gè)字符就++1，直到算出每個(gè)字符的個(gè)數(shù)，進(jìn)而算出每個(gè)字符的概率，再由信源熵計(jì)算公式計(jì)算出信源熵。
2、香農(nóng)編碼：
香農(nóng)編碼主要通過(guò)一系列步驟支出平均碼長(zhǎng)與信源之間的關(guān)系，同時(shí)使平均碼長(zhǎng)達(dá)到極限值，即選擇的每個(gè)碼字的長(zhǎng)度ki滿足下式：
I(xi)?ki?I(xi)?1,?i
具體步驟如下：
a、將信源消息符號(hào)按其出現(xiàn)的概率大小依次排列為：p1?p2?......?pn b、確定滿足下列不等式的整數(shù)碼長(zhǎng)ki為：?lb(pi)?ki??lb(pi)?1 c、為了編成唯一可譯碼，計(jì)算第i個(gè)消息的累加概率：pi??p(ak)k?1i?1
河南理工大學(xué)課程設(shè)計(jì)報(bào)告書(shū)
d、將累加概率Pi變換成二進(jìn)制數(shù)。
e、取Pi二進(jìn)制數(shù)的小數(shù)點(diǎn)后Ki位即為該消息符號(hào)的二進(jìn)制碼字。
在香農(nóng)編碼中對(duì)于求解編碼效率主要是依靠這個(gè)公式:R=H(X)/K,其中k??p(aik)ii?1n
H（x）=??p(xi)logp(xi)i?1n對(duì)于求解信源熵主要依靠公式：，三、設(shè)計(jì)流程圖
1、統(tǒng)計(jì)信源熵：
2、香農(nóng)編碼
河南理工大學(xué)課程設(shè)計(jì)報(bào)告書(shū)
河南理工大學(xué)課程設(shè)計(jì)報(bào)告書(shū)
四、程序運(yùn)行及結(jié)果
1、統(tǒng)計(jì)信源熵：
2、香農(nóng)編碼：
河南理工大學(xué)課程設(shè)計(jì)報(bào)告書(shū)
五、心得體會(huì)
課程設(shè)計(jì)是培養(yǎng)學(xué)生綜合運(yùn)用所學(xué)知識(shí),發(fā)現(xiàn),提出,分析和解決實(shí)際問(wèn)題,鍛煉實(shí)踐能力的重要環(huán)節(jié),是對(duì)學(xué)生實(shí)際工作能力的具體訓(xùn)練和考察過(guò)程。在這個(gè)過(guò)程中，不僅鍛煉了我們縝密的思維和堅(jiān)持不解的毅力，更磨練了一個(gè)隊(duì)伍的團(tuán)結(jié)互助的精神，只有通過(guò)大家一起努力才能將課程設(shè)計(jì)的所有環(huán)節(jié)都順利的完成，另外程序設(shè)計(jì)中我們遇到問(wèn)題并解決問(wèn)題的過(guò)程，使得我們獨(dú)自探索并解決問(wèn)題的能力了有了一個(gè)提高，這有利于我們以后的學(xué)習(xí)。
在此次課程設(shè)計(jì)中，我們主要是做了統(tǒng)計(jì)信源熵與香農(nóng)編碼這兩個(gè)題目，初一看題目感覺(jué)應(yīng)該很簡(jiǎn)單，但真正的去做的時(shí)候才發(fā)現(xiàn)并不是想象的那么簡(jiǎn)單，由于信息論與編碼是年前學(xué)的，而課程設(shè)計(jì)是現(xiàn)在才做，所以經(jīng)歷一個(gè)寒假，整本書(shū)的知識(shí)點(diǎn)都忘得差不多了，所以不得不重新復(fù)習(xí)課本，以便于自己能好的完成這次的課程設(shè)計(jì)。另外就是對(duì)以前的大一學(xué)的C語(yǔ)言也是一個(gè)考驗(yàn)，雖然在平時(shí)也用一些相關(guān)方面的知識(shí)，但是相對(duì)完成此次的編程任務(wù)顯然不太容易，所以這次課程設(shè)計(jì)不僅鍛煉了我們做文檔，做PPT的能力，也幫助我們對(duì)相關(guān)知識(shí)的做了一個(gè)整體復(fù)習(xí)。還有就是在此過(guò)程中，也遇到了一些自己不能解決的問(wèn)題，就會(huì)請(qǐng)教其他組員，一起共同討論，直到解決，這是的我們充分認(rèn)識(shí)到了團(tuán)隊(duì)協(xié)作的重要性，也體驗(yàn)到了在問(wèn)題得到解決的時(shí)候所獨(dú)有的那份喜悅。也體會(huì)到了與隊(duì)友的合作更是一件快樂(lè)的事情，只有彼此都付出，彼此都努力維護(hù)才能將作品做的更加完美。
我認(rèn)為，在這學(xué)期的課程設(shè)計(jì)中，在收獲知識(shí)的同時(shí)，還收獲了閱歷，收獲了成熟，在此過(guò)程中，我們通過(guò)查找大量資料，請(qǐng)教老師，以及不懈的努力，不僅培養(yǎng)了獨(dú)立思考，在各種其它能力上也都有了提高。更重要的是，在課程設(shè)計(jì)上，我們學(xué)會(huì)了很多學(xué)習(xí)的方法。而這是日后最實(shí)用的，真的是受益匪淺。要面對(duì)社會(huì)的挑戰(zhàn)，只有不斷的學(xué)習(xí)、實(shí)踐，再學(xué)習(xí)、再實(shí)踐。
參考文獻(xiàn)
[1]曹雪虹，張宗橙.信息論與編碼.北京：清華大學(xué)出版社，2007.[2]王慧琴.數(shù)字圖像處理.北京：北京郵電大學(xué)出版社，2007.[3]劉宏.C++程序設(shè)計(jì)教程.武漢：武漢大學(xué)出版社，2005.河南理工大學(xué)課程設(shè)計(jì)報(bào)告書(shū)
[4]楊永國(guó)，張冬明.Visual C++6.0實(shí)用教程.北京：清華大學(xué)出版社，2007.[5] 陳運(yùn).信息論與編碼 [M].北京：電子工業(yè)出版社，2011.[6] 姚領(lǐng)田.精通MFC程序設(shè)計(jì) [M].北京：人民郵電出版社，2006.[7] 傅祖蕓.信息論—基礎(chǔ)理論與應(yīng)用（第二版）.北京：電子工業(yè)出版社，2007.5 [8] 傅祖蕓.信息論基礎(chǔ).北京：電子工業(yè)出版社，1989 [9] R W漢明.朱雪龍譯.編碼和信息理論.北京：科學(xué)出版社，1984 附錄：源程序
1、統(tǒng)計(jì)信源熵： #include
while((c=getchar())!='n'){ for(i=65;i<=90;i++){ if(i==c){ ch[i-65]++;sum++;}
} for(i=97;i<=112;i++){ if(c==i){ ch[i-97]++;sum++;} }
河南理工大學(xué)課程設(shè)計(jì)報(bào)告書(shū)
} for(i=0;i<50;i++){ p[i]=(double)ch[i]/(double)sum;if(p[i]!=0){
printf(“ p(%c)= %1.2f ”,i+65, p[i]);n++;} if(n==3){ printf(“n”);n=0;} } for(i=0;i<=25;i++){ if(p[i]!=0)H=H+p[i]*(log(p[i]));} printf(“n”);printf(“信息熵=%f”,-H);printf(“n”);}
2、香農(nóng)編碼 #include
int i,n, j,k;float sum=0;float p[100]={0};float m,H1=0,H2=0;float Pi[100]={0};int l[100];char c[100][100];printf(“作者，于文達(dá) 王晨 楊帥 張健n”);
河南理工大學(xué)課程設(shè)計(jì)報(bào)告書(shū)
printf(“請(qǐng)輸入x的個(gè)數(shù)n”);scanf(“%d”,&n);printf(“n”);printf(“請(qǐng)輸入p[i]的概率分布n”);for(i=0;i { printf(“錯(cuò)誤輸入，請(qǐng)重輸n”); } for(j=0;j for(i=0;i if(p[i] for(j=1;j 河南理工大學(xué)課程設(shè)計(jì)報(bào)告書(shū) } for(i=0;i } printf(“p[i]序列為 累加概率Pi 碼長(zhǎng)Kin”);for(i=0;i { for(k=0;k } } printf(“ 碼字n”);for(i=0;i } else c[i][k]='0';m=m-1;c[i][k]='1';if(m==(int)m)l[i]=(int)m;else l[i]=(int)(m+1); 河南理工大學(xué)課程設(shè)計(jì)報(bào)告書(shū) } printf(“ %c”,c[i][k]);printf(“n”);for(i=0;i 《信息論與編碼》課程設(shè)計(jì)任務(wù)書(shū) 一、設(shè)計(jì)目的 通過(guò)課程設(shè)計(jì)使學(xué)生更進(jìn)一步掌握信息論與編碼課程的有關(guān)知識(shí)，提高編程的能力，并將所學(xué)的內(nèi)容加以綜合。通過(guò)查閱資料，了解所學(xué)知識(shí)的應(yīng)用情況。同時(shí)也使學(xué)生通過(guò)動(dòng)手進(jìn)行程序設(shè)計(jì)從而提高解決實(shí)際問(wèn)題的能力。 二、課程設(shè)計(jì)要求 1、認(rèn)真查閱資料 ２、遵守課程設(shè)計(jì)時(shí)間安排 ３、按時(shí)上機(jī)，認(rèn)真調(diào)試程序 ４、認(rèn)真書(shū)寫報(bào)告 三、報(bào)告書(shū)寫格式 1、課程設(shè)計(jì)封面 ２、課程設(shè)計(jì)任務(wù)書(shū) ３、正文 ４、參考文獻(xiàn) ５、課程設(shè)計(jì)成績(jī)報(bào)告單 四、設(shè)計(jì)題目 １、符號(hào)信源熵的求解 給定信源各個(gè)符號(hào)發(fā)生概率，條件概率，編程求解各個(gè)符號(hào)的自信息量和信源的熵,條件熵，聯(lián)合熵。 ２、圖像信源熵的求解 讀入一幅圖像，編程實(shí)現(xiàn)求解圖像信源的熵。３、互信息的求解 已知信源發(fā)出x的概率，及接收到y(tǒng)后的x的后驗(yàn)概率，編程實(shí)現(xiàn)互信息、平均互信息的求解。 ４、唯一可譯碼的判斷 總結(jié)唯一可譯碼的概念與判斷方法，編程實(shí)現(xiàn)：給定碼字，判斷是否為唯一可譯碼。５、即時(shí)碼的構(gòu)造與判斷 總結(jié)即時(shí)碼的概念與判斷方法，編程實(shí)現(xiàn)：構(gòu)造給定碼長(zhǎng)的即時(shí)碼；給定碼字，判斷是否為即時(shí)碼。 ６、Kraft不等式的分析與判斷 編寫程序，給定信源符號(hào)個(gè)數(shù)，碼元進(jìn)制數(shù)和碼長(zhǎng)，判斷唯一可譯碼是否存在。７、香農(nóng)編碼的分析與實(shí)現(xiàn) 給定信源各個(gè)符號(hào)及其發(fā)生概率，編程求解其香農(nóng)編碼的碼字，平均碼長(zhǎng)，及編碼效率。８、費(fèi)諾編碼的分析與實(shí)現(xiàn) 給定信源各個(gè)符號(hào)及其發(fā)生概率，編程求解其費(fèi)諾編碼的碼字，平均碼長(zhǎng)，及編碼效率。９、用香農(nóng)-費(fèi)諾-埃利斯編碼的分析與實(shí)現(xiàn) 給定信源各個(gè)符號(hào)及其發(fā)生概率，編程求解其香農(nóng)-費(fèi)諾-埃利斯編碼碼字，平均碼長(zhǎng)，及編碼效率。 １０、哈夫曼編碼的分析與實(shí)現(xiàn) 給定信源各個(gè)符號(hào)及其發(fā)生概率，編程求解其哈夫曼編碼碼字，平均碼長(zhǎng)，及編碼效率。１１、LZW編碼的分析與實(shí)現(xiàn) １２、算術(shù)編碼的分析與實(shí)現(xiàn) １３、線性分組碼的編譯碼的分析與實(shí)現(xiàn) １４、對(duì)稱信道容量的求解 給定信道的概率矩陣，編程判斷其是否為對(duì)稱信道，并求解其信道容量 １５、準(zhǔn)對(duì)稱信道容量的求解 給定信道的概率矩陣，編程判斷其是否為準(zhǔn)對(duì)稱信道，并求解其信道容量 １６、信道容量迭代算法的分析與實(shí)現(xiàn) １７、率失真函數(shù)R(D)的計(jì)算 說(shuō)明： （1）課程設(shè)計(jì)的題目共17個(gè)，一個(gè)班一個(gè)題目最多供6人選。 （2）課程設(shè)計(jì)說(shuō)明書(shū)一般應(yīng)包括理論分析與仿真，編程語(yǔ)言可自行選擇，說(shuō)明書(shū)字?jǐn)?shù)在3000字左右； （3）把任務(wù)書(shū)信息補(bǔ)充完整，參考文獻(xiàn)可更改，設(shè)計(jì)的內(nèi)容細(xì)節(jié)和具體要求可以和指導(dǎo)老師協(xié)商后，有所更改。 （4）多人做一個(gè)題目時(shí)要有不同的分工或側(cè)重點(diǎn)，寫出的課程設(shè)計(jì)說(shuō)明書(shū)不能雷同，如重復(fù)率超過(guò)50%，同組人均不能通過(guò)。 五、時(shí)間安排 １、查閱資料及程序設(shè)計(jì)（4天） ２、上機(jī)調(diào)試程序（4天） 3、書(shū)寫報(bào)告（2天） 六、成績(jī)?cè)u(píng)定 １、未完成設(shè)計(jì)任務(wù)，沒(méi)達(dá)到設(shè)計(jì)要求則成績(jī)?yōu)椤安患案瘛薄?/p> ２、基本完成設(shè)計(jì)任務(wù)，并撰寫出課程設(shè)計(jì)報(bào)告則成績(jī)?yōu)椤凹案瘛薄?/p> ３、學(xué)生能夠認(rèn)真查閱資料，獨(dú)立完成設(shè)計(jì)任務(wù)，程序調(diào)試通過(guò)，并且撰寫出課程設(shè)計(jì)報(bào)告則成績(jī)?yōu)椤爸小薄?/p> ４、學(xué)生能夠認(rèn)真查閱資料，獨(dú)立完成設(shè)計(jì)任務(wù)，程序調(diào)試通過(guò)，功能完善，操作靈活，界面美觀，并且撰寫出課程設(shè)計(jì)報(bào)告則成績(jī)?yōu)椤傲己谩薄?/p> ５、學(xué)生根據(jù)自身的實(shí)際能力，在實(shí)現(xiàn)設(shè)計(jì)題目基本要求的基礎(chǔ)上增加一些功能，評(píng)定成績(jī)時(shí)根據(jù)其難度和完成情況給與適當(dāng)加分，如界面效果，系統(tǒng)操作的方便性、靈活性、創(chuàng)新性等，如果設(shè)計(jì)非常完善則成績(jī)?yōu)椤皟?yōu)秀”。 七、參考文獻(xiàn) 傅祖蕓.信息論— — —基礎(chǔ)理論與應(yīng)用.北京:電子工業(yè)出版社,2001 2 周蔭清.信息理論基礎(chǔ).北京:北京航空航天大學(xué)出版社,2002 3 T M Cover & J A Thomas.Elements of Informat ion Theory.New York: John Wiley& Sons.Inc., 1991 4 [美] R W 漢明著,朱雪龍譯.編碼和信息理論.北京:科學(xué)出版社,1984 5 朱雪龍.應(yīng)用信息論基礎(chǔ).北京:清華大學(xué)出版社,2001 6 姜丹.信息論與編碼.合肥:中國(guó)科技大學(xué)出版社,2001 陳運(yùn).信息論與編碼.北京:電子工業(yè)出版社,2002 8 曹雪虹.信息論與編碼.北京:北京郵電大學(xué)出版社,2001 9 吳偉陵.信息處理與編碼.北京:人民郵電出版社,2003 信息論與編碼的應(yīng)用 信息論是信息科學(xué)的主要理論基礎(chǔ)之一，它是在長(zhǎng)期通信工程實(shí)踐和理論基礎(chǔ)上發(fā)展起來(lái)的。信息論是應(yīng)用概率論、隨機(jī)過(guò)程和數(shù)理統(tǒng)計(jì)和近代代數(shù)等方法，來(lái)研究信息的存儲(chǔ)、傳輸和處理中一般規(guī)律的學(xué)科。它的主要目的是提高通信系統(tǒng)的可靠性、有效性和安全性，以便達(dá)到系統(tǒng)的最優(yōu)化。編碼理論與信息論緊密關(guān)聯(lián)，它以信息論基本原理為理論依據(jù)，研究編碼和譯碼的理論知識(shí)和實(shí)現(xiàn)方法?！娟P(guān)鍵詞】信息論 電子信息工程 通信 網(wǎng)絡(luò) 一、信息論應(yīng)用 人類社會(huì)的生存和發(fā)展無(wú)時(shí)不刻都離不開(kāi)信息的獲取、傳遞、再生、控制和利用。信息論正式一門把信息作為研究對(duì)象的科學(xué)，以揭示信息的本質(zhì)特性和規(guī)律為基礎(chǔ)，應(yīng)用概率論。隨機(jī)過(guò)程和樹(shù)立統(tǒng)計(jì)等方法來(lái)研究信息的存儲(chǔ)、傳輸、處理、控制和利用。它主要研究如何提高信息系統(tǒng)的可靠性、有效性、保密性和認(rèn)證性，以使信息系統(tǒng)最優(yōu)化。許多 科學(xué)技術(shù)問(wèn)題（如無(wú)線電通訊、電視、遙測(cè)、圖像和聲音識(shí)別等）都必須以信息論為理論指 導(dǎo)才能很好地解決。信息論的研究對(duì)象又可以是廣義的信息傳輸和信息處理系統(tǒng)。從最普通 的電報(bào)、電話、傳真、電視、雷達(dá)、聲納, 一直到各類生物神經(jīng)的感知系統(tǒng), 以及大到人類社會(huì)系統(tǒng),可以用同一的信息論觀點(diǎn)加以闡述, 都可以概括成某種隨機(jī)過(guò)程或統(tǒng)計(jì)學(xué)的數(shù)學(xué)模型加以深入研究。例如信息論在一下幾個(gè)方面都得到了廣泛的應(yīng)用。 信息論在數(shù)據(jù)壓縮理論中的應(yīng)用 數(shù)據(jù)壓縮的主要目的是力求用最少的數(shù)據(jù)表示信源所發(fā)出的信號(hào)，使信號(hào)占用的存儲(chǔ)空間盡可能小，以達(dá)到提高信息傳輸速度的目的。數(shù)據(jù)壓縮在近代信息處理問(wèn)題中有大量的應(yīng)用，無(wú)論在數(shù)據(jù)存儲(chǔ)或傳送中，通過(guò)數(shù)據(jù)壓縮不僅可以大大節(jié)省資源利用的成本，而且把一些原來(lái)無(wú)實(shí)用意義的技術(shù)，如多媒體技術(shù)中的一些問(wèn)題，達(dá)到具有實(shí)用意義的標(biāo)準(zhǔn)。 數(shù)據(jù)壓縮作為信息論研究中的一項(xiàng)內(nèi)容，主要是有關(guān)數(shù)據(jù)壓縮比和各種編碼方法的研究，即按某種方法對(duì)源數(shù)據(jù)流進(jìn)行編碼，使得經(jīng)過(guò)編碼的數(shù)據(jù)流比原數(shù)據(jù)流占有較少的空間。其中基于符號(hào)頻率統(tǒng)計(jì)的哈夫曼編碼效率高，運(yùn)算速度快，實(shí)現(xiàn)方式靈活，使得其在數(shù)據(jù)壓縮領(lǐng)域得到了廣泛的應(yīng)用。 數(shù)據(jù)壓縮技術(shù)的不斷完善是依靠在信息論這門學(xué)科的成長(zhǎng)上的，信息能否被壓縮以及能在多大程度上被壓縮與信息的不確定性有直接的關(guān)系，人工智能技術(shù)將會(huì)對(duì)數(shù)據(jù)壓縮的未來(lái)產(chǎn)生重大影響。 信息論在密碼學(xué)中的應(yīng)用 密碼學(xué)是研究編制密碼和破譯密碼的技術(shù)科學(xué)。從傳統(tǒng)意義上來(lái)說(shuō)，密碼學(xué)是研究如何把信息轉(zhuǎn)換成一種隱蔽的方式并阻止其他人得到它。密碼術(shù)的研究和應(yīng)用雖有很長(zhǎng)的歷史，但在信息論誕生之前，它還沒(méi)有系統(tǒng)的理論，直到香農(nóng)發(fā)表的保密通信的信息理論一文，為密碼學(xué)確立了一系列的基本原則與指標(biāo)，如加密運(yùn)算中的完全性、剩余度等指標(biāo)，它們與信息的度量有著密切相關(guān)。之后才產(chǎn)生了基于信息論的密碼學(xué)理論，所以說(shuō)信息論與密碼學(xué)的關(guān)系十分密切。 近代密碼學(xué)由于數(shù)據(jù)加密標(biāo)準(zhǔn)與公鑰體制的出現(xiàn)與應(yīng)用，使近代密碼學(xué)所涉及的范圍有了極大的發(fā)展，尤其是在網(wǎng)絡(luò)認(rèn)證方面得到廣泛應(yīng)用，但其中的安全性原理與測(cè)量標(biāo)準(zhǔn)仍未脫離香農(nóng)保密系統(tǒng)所規(guī)定的要求，多種加密函數(shù)的構(gòu)造，如相關(guān)免疫函數(shù)的構(gòu)造仍以香農(nóng)的完善保密性為基礎(chǔ) 信息論在數(shù)字移動(dòng)通信系統(tǒng)中的應(yīng)用 數(shù)字移動(dòng)通信系統(tǒng)主要包含編碼和譯碼兩種技術(shù)。移動(dòng)信道是最復(fù)雜的一種信道，為了保證在不利的條件下接受信號(hào)的傳輸質(zhì)量，就必須采用各種抗衰落技術(shù)和數(shù)字傳輸技術(shù)，如分集技術(shù)、擴(kuò)頻技術(shù)、均衡、交織和糾錯(cuò)編碼等。信息論在統(tǒng)計(jì)中的應(yīng)用 信息論在統(tǒng)計(jì)中的應(yīng)用一般指信息量在統(tǒng)計(jì)中的應(yīng)用，也有編碼定理與碼結(jié)構(gòu)在統(tǒng)計(jì)中的應(yīng)用等問(wèn)題。由于統(tǒng)計(jì)學(xué)研究的問(wèn)題日趨復(fù)雜，如統(tǒng)計(jì)模型從線性到非線性，統(tǒng)計(jì)分布從單一分布到混合分布，因此信息量在統(tǒng)計(jì)中的作用日趨重要，在許多問(wèn)題中以信息量作為它們的基本度量 [2]。 在統(tǒng)計(jì)領(lǐng)域里，統(tǒng)計(jì)計(jì)算技術(shù)近年來(lái)發(fā)展很快，它使許多統(tǒng)計(jì)方法，尤其是Bayes統(tǒng)計(jì)得到廣泛的運(yùn)用。信息與統(tǒng)計(jì)相結(jié)合的其他典型問(wèn)題還很多，如假設(shè)檢驗(yàn)中的兩類誤差估計(jì)問(wèn)題，試驗(yàn)設(shè)計(jì)問(wèn)題，信息量在有效估計(jì)中的應(yīng)用問(wèn)題等，這些問(wèn)題已使信息論與統(tǒng)計(jì)學(xué)想成相互推動(dòng)發(fā)展的局面。 編碼技術(shù)在調(diào)制解調(diào)技術(shù)中的應(yīng)用 在上個(gè)世紀(jì)80到90年代，信息編碼理論應(yīng)用的兩項(xiàng)重大成果是：調(diào)制解調(diào)理論及數(shù)據(jù)壓縮理論在多媒體技術(shù)領(lǐng)域的應(yīng)用。調(diào)制解調(diào)碼的出現(xiàn)從根本上改變了數(shù)據(jù)通信的狀況，使調(diào)制解調(diào)碼通信速度從原來(lái)的1200bit/s逐步增加到30000bit/s。我們可以簡(jiǎn)單計(jì)算得知，調(diào)制解調(diào)碼大大提高了數(shù)據(jù)傳輸速度，提高了25倍，從而使現(xiàn)有的網(wǎng)絡(luò)通信成為實(shí)用性的技術(shù)。 編碼技術(shù)在快速通信領(lǐng)域中的應(yīng)用 編碼理論在快速通信技術(shù)中已得到了大量的應(yīng)用，通信技術(shù)已從低速向高速發(fā)展，通信手段正向微波、衛(wèi)星等方向發(fā)展，因此誤差干擾問(wèn)題突現(xiàn)出來(lái)，利用糾錯(cuò)碼可大大降低通信中的差錯(cuò)率。在20世紀(jì)70到80年代的代數(shù)碼，如BCH碼、R-S碼等為克服誤差干擾發(fā)揮了重要作用，成為通信工程不可缺少的一個(gè)組成部分。 3.7信息論在其他領(lǐng)域中的應(yīng)用 現(xiàn)今時(shí)代信息科學(xué)飛速發(fā)展，信息論已跨越了通信領(lǐng)域，在其他領(lǐng)域也得到了廣泛應(yīng)用。信息論不僅在計(jì)算機(jī)、自動(dòng)控制等方面突現(xiàn)作用，還開(kāi)始涉及到物理學(xué)、化學(xué)、生物學(xué)、心理學(xué)、醫(yī)學(xué)、經(jīng)濟(jì)學(xué)、人類學(xué)、語(yǔ)言學(xué)、統(tǒng)計(jì)學(xué)和管理學(xué)等學(xué)科。 比如信息論在水資源系統(tǒng)工程中可以利用信息論的方法建立模型推到降水、儲(chǔ)水量等分布的問(wèn)題。在建筑工程故障診斷中信息論也得到了應(yīng)用，它用熵的概念對(duì)所測(cè)量的數(shù)據(jù)進(jìn)行處理和誤差分析。另外，信息論也能在作戰(zhàn)效能評(píng)估中得到應(yīng)用研究，我們可以從信息的不確定性著手評(píng)估其作戰(zhàn)效能。我們不難看出，信息論在很多領(lǐng)域都有所應(yīng)用。 結(jié) 論 信息是自從人類出現(xiàn)以來(lái)就存在于這個(gè)世界上了，天地萬(wàn)物，飛禽走獸，以及人類的生存方式都離不開(kāi)信息的產(chǎn)生和傳播。信息論方法具有普遍的適用性，因此可以把課上學(xué)習(xí)的內(nèi)容和我們的日常生活緊密結(jié)合起來(lái)，從而提高學(xué)習(xí)的興趣。例如，在學(xué)習(xí)多符號(hào)離散信源時(shí)，可以和日常生活中大家在電視上見(jiàn)到的搖獎(jiǎng)場(chǎng)面聯(lián)系起來(lái)。一臺(tái)簡(jiǎn)單的搖獎(jiǎng)機(jī)，從十個(gè)號(hào)碼球中搖出一個(gè)數(shù)字號(hào)碼，可以看作一個(gè)單符號(hào)離散信源，它有十個(gè)符號(hào)，從0至9。如果需要搖出七位數(shù)的體育彩票號(hào)碼，這可以看成是一個(gè)多符號(hào)信源，一次同時(shí)發(fā)出七個(gè)符號(hào)，而且是單符號(hào)離散信源的7次擴(kuò)展。又如，在學(xué)習(xí)漢明距離時(shí)，可以和英語(yǔ)學(xué)習(xí)聯(lián)系起來(lái)。在英語(yǔ)中拼寫非常接近的單詞很容易混淆或者拼寫錯(cuò)誤，用信息論的觀點(diǎn)來(lái)看就是兩個(gè)碼字的漢明距離（不同位的個(gè)數(shù)）太小，因此抗干擾的能力差。 由于信息論方法具有相當(dāng)普遍的意義和價(jià)值，因此在計(jì)算機(jī)科學(xué)、人工智能、語(yǔ)言學(xué)、基因工程、神經(jīng)解剖學(xué)甚至金融投資學(xué)等眾多領(lǐng)域都有廣泛的應(yīng)用，信息論促進(jìn)了這些學(xué)科領(lǐng)域的發(fā)展，同時(shí)也促進(jìn)了整個(gè)社會(huì)經(jīng)濟(jì)的發(fā)展。人們已經(jīng)開(kāi)始利用信息論的方法來(lái)探索系統(tǒng)的存在方式和運(yùn)動(dòng)變化的規(guī)律，信息論已經(jīng)成為認(rèn)識(shí)世界和改造世界的手段，信息論對(duì)哲學(xué)領(lǐng)域也有深遠(yuǎn)的影響。由此可見(jiàn)，《信息論與編碼》的課程對(duì)我們至關(guān)重要！ 參考文獻(xiàn) [1] 曹雪虹，張宗橙．信息論與編碼[M]．北京：清華大學(xué)出版社．2004． [2] 沈世鎰，吳忠華．信息論基礎(chǔ)與應(yīng)用[M]．北京：高等教育出版社．2004． [3] 隋曉紅，王艷營(yíng)．信息論與編碼[M]．北京：北京大學(xué)出版社.2010 [4] 傅祖蕓.信息論—基礎(chǔ)理論與應(yīng)用[M]．北京：電子工業(yè)出版社．2004． [5] 維芬，云娜.信息論基本問(wèn)題簡(jiǎn)述[J]．信息與控制.2006 《信息論與編碼》教學(xué)大綱 電子信息工程專業(yè)（本科） 課程編號(hào)：（） 課程名稱：信息論與編碼 參考學(xué)時(shí)：52 其中實(shí)驗(yàn)或上機(jī)學(xué)時(shí)：0 說(shuō)明部分 1．課程性質(zhì) 本課程是電子信息類專業(yè)的技術(shù)基礎(chǔ)課 2．課程教學(xué)的目的及意義 人類社會(huì)的生存和發(fā)展無(wú)時(shí)無(wú)刻都離不開(kāi)信息的獲取、傳遞、處理、控制和利用。特別是邁入21世紀(jì)――高度信息化時(shí)代，信息的重要性更是不言而喻。信息業(yè)的發(fā)展，需要大量從事信息、通信、電子工程類專業(yè)的人才，而《信息論和編碼》課程為電子信息工程學(xué)科的基礎(chǔ)課，同時(shí)也可作為信息科學(xué)其它相關(guān)學(xué)科的選修課，掌握它，可以指導(dǎo)理論研究和工程應(yīng)用。 本課程注重基本概念、基本理論和基本分析方法的論述，并結(jié)合實(shí)例建立數(shù)學(xué)模型，給出推演過(guò)程，力求物理概念清晰、數(shù)學(xué)結(jié)構(gòu)嚴(yán)謹(jǐn)和完整、逐步深入展開(kāi)。通過(guò)該課程的學(xué)習(xí)，使學(xué)生掌握香農(nóng)信息論的三個(gè)基本概念，與之相應(yīng)的三個(gè)編碼定理，以及信源編碼、信道編碼和信息保密編碼的基本理論和主要方法，培養(yǎng)學(xué)生能夠適應(yīng)數(shù)字通信、信息處理、信息安全、計(jì)算機(jī)信息管理等編碼工作的要求。使學(xué)生掌握信息理論的基本概念和信息分析方法及主要結(jié)論，為今后從事信息領(lǐng)域的科研和工程工作進(jìn)一步研究打下堅(jiān)實(shí)的理論基礎(chǔ)。3．教學(xué)內(nèi)容及教學(xué)要求 該課程是電子信息工程、信息安全工程專業(yè)的專業(yè)課。是為了適應(yīng)數(shù)字通信、信息處理和信息安全等方面的專業(yè)需要開(kāi)設(shè)。該課程著重介紹信息論應(yīng)用概率論、隨機(jī)過(guò)程和現(xiàn)代數(shù)理統(tǒng)計(jì)方法，研究信息提取、傳輸和處理的一般規(guī)律，提高信息系統(tǒng)的有效性和可靠性，實(shí)現(xiàn)信息系統(tǒng)的最優(yōu)化。 信息論是現(xiàn)代通信與信息工程的理論基礎(chǔ)，主要內(nèi)容包括：信息的定義和測(cè)度；各類離散信源和信息熵；剩余度；信道和互信息；平均互信息和信道容量；數(shù)據(jù)處理和信息測(cè)量理論；信息率失真函數(shù)和數(shù)據(jù)壓縮原理；離散信源無(wú)失真和限失真信源編碼理論和編碼方法；離散有噪信道編碼理論和編碼原則。教學(xué)基本要求： 了解通信系統(tǒng)各部分的主要組成以及作用、香農(nóng)的三大編碼定理； 掌握各類離散信源和信息熵、信道及其信道容量、信息率失真函數(shù)和數(shù)據(jù)壓縮原理、離常用的無(wú)失真信源編碼方法、糾錯(cuò)碼基本思想及常用的糾錯(cuò)編碼方法。4.教學(xué)重點(diǎn)、難點(diǎn) 教學(xué)重點(diǎn)： 信息以及失真的測(cè)度、信道及信道容量、無(wú)失真信源編碼方法以及有噪信道編碼方法。教學(xué)難點(diǎn)： ?典型序列以及由此推導(dǎo)出的香農(nóng)三大編碼定理及其逆定理。5.教學(xué)方法及教學(xué)手段 課堂講學(xué)為主，習(xí)題講解為輔。6.教學(xué)學(xué)材及主要參考書(shū) 1.傅祖蕓編著，《信息論－基礎(chǔ)理論與應(yīng)用》，北京：電子工業(yè)出版社，2001年 2.姜丹，《信息論與編碼》，合肥，中國(guó)科學(xué)技術(shù)大學(xué)出版社，2001年 3.曹雪虹，張宗橙，信息論與編碼，北京，清華大學(xué)出版社，2004年 7.其它 考核形式：考試（筆試），教學(xué)環(huán)境：課堂 本課程應(yīng)開(kāi)設(shè)在概率論與隨機(jī)過(guò)程等數(shù)學(xué)學(xué)科信號(hào)與系統(tǒng)之后，是數(shù)字圖像處理的基礎(chǔ)課程。 總學(xué)時(shí)數(shù) 課程總學(xué)時(shí)數(shù)： 52 其中，課堂講授： 46 作業(yè)：6 二、正文部分 第一章：緒論 一、教學(xué)要求 了解信息論研究對(duì)象、目的、發(fā)展簡(jiǎn)史與現(xiàn)狀； 了解通信系統(tǒng)的模型以及通信系統(tǒng)各部分的主要組成以及作用 二、教學(xué)內(nèi)容 第一節(jié) 信息的概念 知識(shí)要點(diǎn)：信息的概念及自信息 第二節(jié) 信息論研究的對(duì)象、目的和內(nèi)容 知識(shí)要點(diǎn)：信息論研究的對(duì)象、目的和內(nèi)容 第三節(jié)：信息論發(fā)展簡(jiǎn)史 知識(shí)要點(diǎn)：信息論發(fā)展簡(jiǎn)史 三、本章學(xué)時(shí)數(shù) 2學(xué)時(shí) 第二章：離散信源及其測(cè)度 一、教學(xué)要求 了解信源的相關(guān)性和剩余度的概念，信息的概念，信息，信號(hào)，消息，數(shù)據(jù)的關(guān)系與聯(lián)系。 掌握信源的數(shù)學(xué)模型、離散無(wú)記憶信源、離散平穩(wěn)信源和馬爾可夫信源基本理論。 二、教學(xué)內(nèi)容 第一節(jié) 信源的數(shù)學(xué)模型及分類 知識(shí)要點(diǎn)：信源的數(shù)學(xué)模型，離散無(wú)記憶信源及其擴(kuò)展信源。第二節(jié) 信息熵及其基本性質(zhì) 知識(shí)要點(diǎn)：自信息及信息熵離散無(wú)記憶擴(kuò)展信源熵，熵的基本性質(zhì)及最大離散熵定理。第三節(jié) 離散平穩(wěn)信源 知識(shí)要點(diǎn)：離散平穩(wěn)信源定義，聯(lián)合熵，條件熵以及極限熵。第四節(jié) 馬爾可夫信源 知識(shí)要點(diǎn)：馬爾可夫信源定義，馬爾可夫信源熵 第四節(jié) 信息剩余度 知識(shí)要點(diǎn)：信息剩余度以及自然語(yǔ)言熵 三、本章學(xué)時(shí)數(shù) 8學(xué)時(shí) 第三章：離散信道及其信道容量 一、教學(xué)要求 了解一般信道容量計(jì)算。 掌握信道的數(shù)學(xué)模型，離散無(wú)記憶信道以及一些特殊信道容量的計(jì)算方法。 二、教學(xué)內(nèi)容 第一節(jié) 信道數(shù)學(xué)模型及分類 知識(shí)要點(diǎn)：信道數(shù)學(xué)模型及不同的分類，信道矩陣。第二節(jié)平均互信息及特點(diǎn) 知識(shí)要點(diǎn)：信道疑義度，互信息和平均互信息及其特性，平均條件互信息。第三節(jié) 信道容量及一般計(jì)算方法 知識(shí)要點(diǎn)：離散無(wú)噪信道及信道容量，對(duì)稱離散信道、準(zhǔn)對(duì)稱信道的容量計(jì)算。第四節(jié) 離散無(wú)記憶擴(kuò)展信道及其容量 知識(shí)要點(diǎn)：離散無(wú)記憶擴(kuò)展信道及其容量，信源與信道的匹配。 三、本章學(xué)時(shí)數(shù) 6學(xué)時(shí) 第四章：無(wú)失真信源編碼 一、教學(xué)要求 了解其它一些無(wú)失真信源編碼方法。 理解漸近等分割性及?典型序列，算術(shù)編碼方法及具體實(shí)現(xiàn)方案； 掌握編碼的定義，碼的分類，定長(zhǎng)編碼定理，變長(zhǎng)編碼定理，最佳編碼方法：香農(nóng)編碼方法，費(fèi)諾編碼方法，哈夫曼編碼方法。 二、教學(xué)內(nèi)容 第一節(jié) 等長(zhǎng)碼及等長(zhǎng)信源編碼定理 知識(shí)要點(diǎn)：編碼器的概念，碼的定義，等長(zhǎng)碼及等長(zhǎng)信源編碼定理，?典型序列及其性質(zhì)，編碼效率。 第二節(jié) 變長(zhǎng)碼及變長(zhǎng)信源編碼定理 知識(shí)要點(diǎn)：唯一可譯碼定義及其判斷方法，即時(shí)碼的樹(shù)圖法構(gòu)造，Kraft不等式，緊致碼，變長(zhǎng)信源編碼定理。 第三節(jié) 編碼方法 知識(shí)要點(diǎn)：香農(nóng)編碼，費(fèi)諾編碼，香農(nóng)－費(fèi)諾－埃利斯編碼，哈夫曼編碼，游程編碼，算術(shù)編碼和其它一些編碼方法。 三、本章學(xué)時(shí)數(shù) 10學(xué)時(shí) 第五章：有噪信道編碼 一、教學(xué)要求 了解檢錯(cuò)碼與糾錯(cuò)碼的方法。理解漸近等分割性及?典型序列。 掌握的重點(diǎn)內(nèi)容有：有噪離散信道的編碼定理，差錯(cuò)控制與信道編譯碼的基本原理，線性分組碼，卷積碼，網(wǎng)格編碼調(diào)制與級(jí)聯(lián)碼簡(jiǎn)介。 二、教學(xué)內(nèi)容 第一節(jié) 錯(cuò)誤概率與譯碼規(guī)則和編碼方法 知識(shí)要點(diǎn)：最小錯(cuò)誤概率譯碼準(zhǔn)則，最大似然譯碼準(zhǔn)則，最小距離譯碼準(zhǔn)則及其之間相互關(guān)系，平均譯碼錯(cuò)誤概率，錯(cuò)誤概率與譯碼規(guī)則和編碼方法關(guān)系，信道編碼的編、譯基本準(zhǔn)則。 第二節(jié) 有噪信道編碼定理 知識(shí)要點(diǎn)：有噪信道編碼定理及其逆定理，信源信道編碼定理。第三節(jié) 糾錯(cuò)碼 知識(shí)要點(diǎn)：糾錯(cuò)碼分類，分組碼的最小距離與檢、糾錯(cuò)能力，分組碼的碼率，線性分組碼的特性，生成矩陣和一致監(jiān)督矩陣及其關(guān)系，線性分組碼的編、譯碼方法，漢明碼，卷積碼及其構(gòu)造方法。 三、本章學(xué)時(shí)數(shù) 10學(xué)時(shí) 第六章：波形信源和波形信道 一、教學(xué)要求 了解連續(xù)信源和波形信源的信息測(cè)度，連續(xù)信道和波形信道的分類，連續(xù)信源熵的變換，連續(xù)信道和波形信道的信道容量的計(jì)算方法。 掌握連續(xù)信源和波形信源的信息測(cè)度。 二、教學(xué)內(nèi)容 第一節(jié) 連續(xù)信源和波形信源的信息測(cè)度 知識(shí)要點(diǎn)：連續(xù)信源的差熵、波形信源的差熵和兩種特殊信源的差熵。第二節(jié) 連續(xù)信道和波形信道的分類 知識(shí)要點(diǎn)：按噪聲統(tǒng)計(jì)特性分類，按噪聲對(duì)信號(hào)的作用和功能分類。第三節(jié) 連續(xù)信道和波形信道的信息傳輸率 知識(shí)要點(diǎn)：?jiǎn)畏?hào)連續(xù)信道的平均交互信息，連續(xù)信道的平均交互信息的特性。第四節(jié) 連續(xù)信道和波形信道的信道容量 知識(shí)要點(diǎn)：?jiǎn)畏?hào)高斯加性信道的信道容量，單符號(hào)非高斯加性信道的信道容量，多維無(wú)記憶高斯加性信道的信道容量。 三、本章學(xué)時(shí)數(shù) 8學(xué)時(shí) 第七章：限失真信源編碼 一、教學(xué)要求 了解保真度準(zhǔn)則下的信源編碼定理 掌握失真度與平均失真度，信息率失真函數(shù)與特性，R(D)函數(shù)的參數(shù)表述及其計(jì)算。 二、教學(xué)內(nèi)容 第一節(jié) 失真度與平均失真度 知識(shí)要點(diǎn)：失真度與平均失真度，D失真許可試驗(yàn)信道。第二節(jié) 信息率失真函數(shù)與特性 知識(shí)要點(diǎn)：信息率失真函數(shù)R(D)的定義，離散信源的R(D)函數(shù)，高斯連續(xù)信源的R(D)函數(shù)，R(D)的定義域和單調(diào)性等性質(zhì)。 第三節(jié) 信息率失真函數(shù)的參量表述與計(jì)算 知識(shí)要點(diǎn)：信息率失真函數(shù)的計(jì)算 第四節(jié) 保真度準(zhǔn)則下的信源編碼定理 知識(shí)要點(diǎn)：失真限?典型序列，失真信源編碼定理和編碼逆定理，有失真信源編碼定理的實(shí)用意義。 三、本章學(xué)時(shí)數(shù) 8學(xué)時(shí) 執(zhí)筆人： 胡學(xué)友 教研室：XXX 系主任審核簽名：XXX 5 贛南師范學(xué)院物理與電子信息工程學(xué)院 教 案 授課教師：朱赟 授課對(duì)象：電子信息工程 授課學(xué)期：第六學(xué)期 總學(xué)時(shí)：32學(xué)時(shí) 使用教材：電子工業(yè)出版社《信息論與糾錯(cuò)編碼》張麗華 第次課教案 教學(xué)組織 一、自我介紹:略 二、課程介紹： 1、任務(wù)和地位：信息論是由Shannon奠基的一門數(shù)學(xué)學(xué)科，它產(chǎn)生于有效而可靠的通信問(wèn)題中，并獲得了廣泛應(yīng)用。編碼技術(shù)是信息論的重要分支的基礎(chǔ)。它在通信和計(jì)算機(jī)工程實(shí)踐中得到了廣泛的應(yīng)用，成為通信系統(tǒng)設(shè)計(jì)中的一項(xiàng)通用技術(shù)。通過(guò)本課程的學(xué)習(xí)，使學(xué)生對(duì)信息理論有一個(gè)比較全面和系統(tǒng)的了解，掌握信息論的基本概念和信息論方法，為從事信息科學(xué)的研究和應(yīng)用打下一個(gè)堅(jiān)實(shí)的基礎(chǔ)。課程以信號(hào)和信道的知識(shí)為基礎(chǔ)，講述信息論的基本概念，信源編碼、信道編碼和偽隨機(jī)碼的基本知識(shí)。 2、知識(shí)要求：通過(guò)一個(gè)學(xué)期的學(xué)習(xí)要達(dá)到如下要求: 1)掌握平均信息量—熵的概念，了解信息論的基本知識(shí)和信道容量的計(jì)算。2)掌握信源編碼的意義，了解提高信息傳輸“有效性”的方法，掌握平均碼長(zhǎng)的計(jì)算和最佳信源編碼的概念，通過(guò)仙農(nóng)定理導(dǎo)出霍夫曼編碼規(guī)則。3)掌握信道編碼的意義，了解提高信息傳輸“可靠性”的方法，掌握糾錯(cuò)編碼的基本概念，重點(diǎn)講解線性分組碼的檢錯(cuò)能力，介紹卷積碼基本概念。4)掌握偽隨機(jī)碼的基本概念，m序列碼的產(chǎn)生及應(yīng)用。 先修課程：信號(hào)與系統(tǒng)、數(shù)字邏輯電路、微機(jī)原理與應(yīng)用、通信原理。 3、能力要求：本課程重點(diǎn)是通過(guò)講解信息論與編碼技術(shù)使學(xué)生掌握提高信道傳輸?shù)摹坝行浴焙汀翱煽啃浴钡幕纠碚摗?/p> 4、考試成績(jī)計(jì)算方法： 平時(shí)成績(jī) 30%（主要包括作業(yè)和出勤）期終考試 70% 課程性質(zhì): 學(xué)科基礎(chǔ)課： ①電子信息類專業(yè)基礎(chǔ)課 ②研究生考試課程 6 進(jìn)度安排 4學(xué)分 32理論學(xué)時(shí) 16周 2學(xué)時(shí)/周 7 學(xué)習(xí)方法與注意事項(xiàng) 1、學(xué)習(xí)、目的、方法 2、課程框架（理清）3、聽(tīng)課與筆記 4、實(shí)用方法與公式 5、預(yù)習(xí)與復(fù)習(xí)（書(shū)、筆記）6、作業(yè)（多練習(xí)）教材及參考書(shū) 教材: 信息論與糾錯(cuò)編碼 張麗華 電子工業(yè)出版社 參考書(shū): [1] 王新梅等編著，《糾錯(cuò)碼-原理與方法》（修訂版），西安電子科技大學(xué)出版社，2001 年。 [2] 張宗橙編著，《糾錯(cuò)編碼原理和應(yīng)用》，電子工業(yè)出版社，2004年。[3] [日]江藤良純等主編，《糾錯(cuò)編碼原理及應(yīng)用》，科學(xué)出版社，2004年。[4] [美]S.林著，陳太一譯，《糾錯(cuò)編碼入門》，人民郵電出版社，1976年。[5] 姜丹編著，《信息論與編碼》，中國(guó)科學(xué)技術(shù)大學(xué)出版社，2001年。主要內(nèi)容 （1）信息及信息的度量 （2）離散信源及信源熵,離散信道及信道容量（3）信源編碼定理和信道編碼定理 （4）平均失真測(cè)度和信息率失真函數(shù),率失真編碼定理（5）線性分組碼（6）循環(huán)碼和卷積碼 三 授課.一、講授內(nèi)容 第一章 信息論基礎(chǔ) 1.1信息的概念 1.2數(shù)字通信系統(tǒng) 1.3 信源及其數(shù)學(xué)模型 二、教學(xué)目的及要求 要求學(xué)生明確本課程的學(xué)習(xí)目的及要求，初步了解本課程的特點(diǎn)及學(xué)習(xí)方法，掌握信息的基本概念和特點(diǎn)，了解信息論研究的對(duì)象、目的和內(nèi)容，了解信息論的形成和發(fā)展趨勢(shì)，以及目前信息論與編碼的主要研究成果，激發(fā)學(xué)習(xí)信息論與編碼的興趣與熱情。要求學(xué)生掌握信源的基本概念和特點(diǎn)及信源的描述，掌握離散無(wú)記憶信源、離散有記憶信源與馬爾可夫信源的特點(diǎn)與描述方法。 三、教學(xué)重點(diǎn) 本課程的特點(diǎn)及學(xué)習(xí)方法、信息的基本概念與特點(diǎn)，信息論的主要研究對(duì)象、目的和內(nèi)容。信源的分類，離散信源與連續(xù)信源，無(wú)記憶信源與有記憶信源，馬爾可夫信源。 四、教學(xué)難點(diǎn) 如何理解信息的概念、信息論及編碼技術(shù)，有記憶信源，馬爾可夫信源。 五、本講計(jì)劃學(xué)時(shí)及時(shí)間分配 計(jì)劃2個(gè)學(xué)時(shí)，主講信息的基本概念和特點(diǎn)，信息論研究的對(duì)象、目的和內(nèi)容，信息論的形成和發(fā)展趨勢(shì)，以及目前信息論與編碼的主要研究成果。課程導(dǎo)入5分鐘；本課程的學(xué)習(xí)目的、要求及方法介紹20分鐘；信息的基本概念和特點(diǎn)，信息論研究的對(duì)象、目的和內(nèi)容，信息論的形成和發(fā)展趨勢(shì)，以及目前信息論與編碼的主要研究成果講授55分鐘，課堂練習(xí)及課后習(xí)題講解15分鐘，本節(jié)課知識(shí)點(diǎn)總結(jié)5分鐘。 六、實(shí)施步驟 利用多媒體課件對(duì)主要知識(shí)點(diǎn)進(jìn)行講述，并輔以板書(shū)詳解，具體如下： 課程引入：主要介紹本課程的教學(xué)內(nèi)容、教學(xué)重點(diǎn)與難點(diǎn)、考核方式及教材與參考書(shū)。 新課講解：第一章 信息論基礎(chǔ) 1.1信息的概念 1.2數(shù)字通信系統(tǒng) 1.3 信源及其數(shù)學(xué)模型 小結(jié)： 本次課主要對(duì)信息的基本概念和特點(diǎn)，信息論研究的對(duì)象、目的和內(nèi)容，信息論的形成和發(fā)展趨勢(shì)，以及目前信息論與編碼的主要研究成果進(jìn)行講解，給學(xué)生對(duì)《信息論與編碼》這門課程有初步印象。對(duì)無(wú)記憶信源、有記憶信源、馬爾可夫信源進(jìn)行詳細(xì)講解，并對(duì)其中重難點(diǎn)進(jìn)行總結(jié)概括。 七、課外學(xué)習(xí)輔導(dǎo)安排及作業(yè)布置 1、信息、信號(hào)、消息的定義是什么？三者的關(guān)系如何？ 2、尋找閱讀和信息論與編碼發(fā)展的有關(guān)資料。 3、通信系統(tǒng)的各個(gè)主要組成部分是什么？ 八、其他 無(wú) 第次課教案 一、講授內(nèi)容 第2章 信息的度量 2.1 自信息量和互信息量 二、教學(xué)目的及要求 要求學(xué)生掌握自信息量、離散信源熵、互信息的概念及其求解方法，了解數(shù)據(jù)處理中信息的變化方式，熟悉并掌握熵的一些基本性質(zhì)。 三、教學(xué)重點(diǎn) 自信息量、離散信源熵、互信息的概念及其求解方法、數(shù)據(jù)處理中信息的變化方式、熵的性質(zhì)。 四、教學(xué)難點(diǎn) 離散信源熵、互信息的概念及其求解方法、熵的性質(zhì)。 五、本講計(jì)劃學(xué)時(shí)及時(shí)間分配 計(jì)劃2個(gè)學(xué)時(shí)，主講離散信源熵和互信息的基本概念和特點(diǎn)。課程導(dǎo)入5分鐘；自信息量概念及其求解方法介紹10分鐘；離散信源熵的概念及其求解方法講授15分鐘，互信息的概念及其求解方法講授25分鐘，數(shù)據(jù)處理中信息的變化方式講授10分鐘，熵的性質(zhì)講授15分鐘，課堂練習(xí)及課后習(xí)題講解15分鐘，本節(jié)課知識(shí)點(diǎn)總結(jié)5分鐘。 六、實(shí)施步驟 利用多媒體課件對(duì)主要知識(shí)點(diǎn)進(jìn)行講述，并輔以板書(shū)詳解，具體如下： 課程引入： 對(duì)上次課的重點(diǎn)進(jìn)行復(fù)習(xí)，簡(jiǎn)單介紹本次課的主要內(nèi)容，并提出問(wèn)題：信息可否度量？信息量如何來(lái)量測(cè)？ 小結(jié)： 本次課主要對(duì)自信息量、離散信源熵、互信息、數(shù)據(jù)處理中信息的變化與熵的性質(zhì)進(jìn)行講解，最好對(duì)其中涉及到的重難點(diǎn)進(jìn)行總結(jié)概括。 七、課外學(xué)習(xí)輔導(dǎo)安排及作業(yè)布置 教材P41 2-3 第次課教案 一、講授內(nèi)容 第2章 信息的度量 2.2 離散集的平均自信息量 二、教學(xué)目的及要求 要求學(xué)生掌握離散序列信源熵的概念與求解方法，掌握離散無(wú)記憶信源的序列熵與離散有記憶信源的序列熵的概念、特點(diǎn)與求解方法。 三、教學(xué)重點(diǎn) 離散序列信源熵的概念與求解方法、離散無(wú)記憶信源的序列熵與離散有記憶信源的序列熵的概念、特點(diǎn)與求解方法。 四、教學(xué)難點(diǎn) 離散有記憶信源的序列熵的概念、特點(diǎn)與求解方法。 五、本講計(jì)劃學(xué)時(shí)及時(shí)間分配 計(jì)劃2個(gè)學(xué)時(shí)，主講離散序列信源熵。課程導(dǎo)入5分鐘；離散序列信源熵的概念與求解方法介紹20分鐘；離散無(wú)記憶信源的序列熵的基本概念、特點(diǎn)與求解方法講授25分鐘，離散有記憶信源的序列熵的概念、特點(diǎn)與求解方法講授30分鐘；課堂練習(xí)及課后習(xí)題講解15分鐘，本次課知識(shí)點(diǎn)總結(jié)5分鐘。 六、實(shí)施步驟 利用多媒體課件對(duì)主要知識(shí)點(diǎn)進(jìn)行講述，并輔以板書(shū)詳解，具體如下： 課程引入： 對(duì)上次課的重點(diǎn)進(jìn)行復(fù)習(xí)，簡(jiǎn)單介紹本次課的基本內(nèi)容，問(wèn)題的提出：a．如何描述離散無(wú)記憶序列信源的序列熵？b。如何描述離散有記憶序列信源（平穩(wěn)序列和齊次遍歷馬氏信源）的序列熵？ 小結(jié) 本次課主要對(duì)離散無(wú)記憶信源的序列熵、離散有記憶信源的序列熵進(jìn)行詳細(xì)講解，最好對(duì)其中涉及到的重難點(diǎn)進(jìn)行總結(jié)概括。 七、課外學(xué)習(xí)輔導(dǎo)安排及作業(yè)布置 教材P41 2-4 八、其他 無(wú) 第次課教案 一、講授內(nèi)容 第2章 信息的度量 2.3 離散集的平均互信息量 二、教學(xué)目的及要求 要求學(xué)生掌握連續(xù)信源熵和互信息的基本概念，掌握幅度連續(xù)的單個(gè)符號(hào)信源熵的求解方法，了解波形信源熵的求解方法已經(jīng)最大熵定理。 三、教學(xué)重點(diǎn) 連續(xù)信源熵和互信息的基本概念、幅度連續(xù)的單個(gè)符號(hào)信源熵的求解方法、波形信源熵的求解方法已經(jīng)最大熵定理。 四、教學(xué)難點(diǎn) 波形信源熵的求解方法已經(jīng)最大熵定理。 五、本講計(jì)劃學(xué)時(shí)及時(shí)間分配 計(jì)劃2個(gè)學(xué)時(shí)，主講連續(xù)信源熵和互信息。課程導(dǎo)入5分鐘；幅度連續(xù)的單個(gè)符號(hào)信源熵概念及求解方法介紹25分鐘；波形信源熵的概念及求解方法講授25分鐘，最大熵定理的講解25分鐘；課堂練習(xí)及課后習(xí)題講解15分鐘，本節(jié)課知識(shí)點(diǎn)總結(jié)5分鐘。 六、實(shí)施步驟 利用多媒體課件對(duì)主要知識(shí)點(diǎn)進(jìn)行講述，并輔以板書(shū)詳解，具體如下： 課程引入： 對(duì)上次課的重點(diǎn)進(jìn)行復(fù)習(xí)，簡(jiǎn)單介紹本次課的主要內(nèi)容。小結(jié)： 本次課主要對(duì)幅度連續(xù)的單個(gè)符號(hào)信源熵、波形信源熵、最大熵定理進(jìn)行講解，最后對(duì)涉及到的重難點(diǎn)知識(shí)進(jìn)行總結(jié)概括。 七、課外學(xué)習(xí)輔導(dǎo)安排及作業(yè)布置 教材P43 2-20 八、其他 無(wú) 第次課教案 一、講授內(nèi)容 第1章 信息論基礎(chǔ) 1.4 信道及其數(shù)學(xué)模型 二、教學(xué)目的及要求 要求學(xué)生掌握信道的基本概念，了解信道的分類，掌握信道參數(shù)與信道容量的定義及其求解方法。 三、教學(xué)重點(diǎn) 信道的基本概念、信道的分類、信道參數(shù)與信道容量的定義及其求解方法。 四、教學(xué)難點(diǎn) 信道參數(shù)與信道容量的定義及其求解方法 五、本講計(jì)劃學(xué)時(shí)及時(shí)間分配 計(jì)劃2個(gè)學(xué)時(shí)，信道的基本概念。課程導(dǎo)入5分鐘；信道的基本概念闡述10分鐘；信道的分類講授15分鐘；信道參數(shù)的概念講解20分鐘；信道容量的定義及其求解方法講授30分鐘；課堂練習(xí)及課后習(xí)題講解15分鐘，本節(jié)課知識(shí)點(diǎn)總結(jié)5分鐘。 六、實(shí)施步驟 利用多媒體課件對(duì)主要知識(shí)點(diǎn)進(jìn)行講述，并輔以板書(shū)詳解，具體如下： 課程引入： 本章主要討論在什么條件下，通過(guò)信道的信息量最大，即所謂的信道容量問(wèn)題。本章概念和定理也較多，較為抽象，課堂教學(xué)時(shí)考慮多講述一些例題，著重闡明定理和公式的物理意義，對(duì)較為繁瑣的推倒過(guò)程做了部分省略。小結(jié)： 本次課首先介紹了本章的主要內(nèi)容，并對(duì)3.1小節(jié)進(jìn)行詳細(xì)講解，總結(jié)其中的重難點(diǎn)。 七、課外學(xué)習(xí)輔導(dǎo)安排及作業(yè)布置 教材P68 3-1 八、其他 無(wú) 第次課教案 一、講授內(nèi)容 第4章 離散信道的信道容量 4.1 信道容量的定義 4.2 離散無(wú)記憶信道容量的計(jì)算 4.3 組合信道的容量 二、教學(xué)目的及要求 要求學(xué)生掌握離散單個(gè)符號(hào)信道及其容量的基本概念，無(wú)干擾離散信道、對(duì)稱DMC信道、準(zhǔn)對(duì)稱DMC信道與一般DMC信道的信道容量定義及其求解方法。 三、教學(xué)重點(diǎn) 無(wú)干擾離散信道、對(duì)稱DMC信道、準(zhǔn)對(duì)稱DMC信道與一般DMC信道的信道容量定義及其求解方法。 四、教學(xué)難點(diǎn) 對(duì)稱DMC信道、準(zhǔn)對(duì)稱DMC信道與一般DMC信道的新的容量定義及其求解方法。 五、本講計(jì)劃學(xué)時(shí)及時(shí)間分配 計(jì)劃2個(gè)學(xué)時(shí)，主講離散單個(gè)符號(hào)信道及其容量的基本概念。課程導(dǎo)入5分鐘；無(wú)干擾離散信道的信道容量闡述15分鐘；對(duì)稱DMC信道的信道容量講授25分鐘；準(zhǔn)對(duì)稱DMC信道的信道容量講解25分鐘；一般DMC信道的信道容量定義及其求解方法講授15分鐘；課堂練習(xí)及課后習(xí)題講解10分鐘，本節(jié)課知識(shí)點(diǎn)總結(jié)5分鐘。 六、實(shí)施步驟 利用多媒體課件對(duì)主要知識(shí)點(diǎn)進(jìn)行講述，并輔以板書(shū)詳解，具體如下： 課程引入： 信道中存在的干擾使輸出信號(hào)與輸入信號(hào)之間沒(méi)有固定的函數(shù)關(guān)系，只有統(tǒng)計(jì)依賴的關(guān)系。因此可以通過(guò)研究分析輸入輸出信號(hào)的統(tǒng)計(jì)特性來(lái)研究信道。小結(jié)： 本次課主要介紹了離散單個(gè)符合信道及其容量的概念，并對(duì)無(wú)干擾離散信道、對(duì)稱DMC信道、準(zhǔn)對(duì)稱DMC信道與一般DMC信道分別進(jìn)行詳細(xì)講解，總結(jié)其中的重難點(diǎn)。 七、課外學(xué)習(xí)輔導(dǎo)安排及作業(yè)布置 教材P68 3-4 第次課教案 一、講授內(nèi)容 第6章 率失真編碼 6.1 失真測(cè)度與平均失真 6.2 信息率失真函數(shù)R（D）6.3 率失真函數(shù)的計(jì)算 6.4 率失真信源編碼定理 二、教學(xué)目的及要求 要求學(xué)生掌握平均失真和信息率失真函數(shù)的基本概念，掌握失真函數(shù)的計(jì)算、平均失真的計(jì)算、信息率失真函數(shù)R(D)的計(jì)算、信息率失真函數(shù)的性質(zhì)、信息率失真函數(shù)與信道容量的比較。 三、教學(xué)重點(diǎn) 失真函數(shù)的計(jì)算、平均失真的計(jì)算、信息率失真函數(shù)R(D)的計(jì)算、信息率失真函數(shù)的性質(zhì)、信息率失真函數(shù)與信道容量的比較。 四、教學(xué)難點(diǎn) 信息率失真函數(shù)R(D)的計(jì)算、信息率失真函數(shù)的性質(zhì)、信息率失真函數(shù)與信道容量的比較。 五、本講計(jì)劃學(xué)時(shí)及時(shí)間分配 計(jì)劃2個(gè)學(xué)時(shí)，主講平均失真和信息率失真函數(shù)的基本概念。課程導(dǎo)入5分鐘；失真函數(shù)的概念及其計(jì)算方法講解15分鐘；平均失真的概念與計(jì)算方法講授20分鐘；信息率失真函數(shù)R(D)的概念與計(jì)算方法講解20分鐘；信息率失真函數(shù)的性質(zhì)講授15分鐘；信息率失真函數(shù)與信道容量的比較講解10分鐘；課堂練習(xí)與習(xí)題講解10分鐘；本節(jié)課知識(shí)點(diǎn)總結(jié)5分鐘。 六、實(shí)施步驟 利用多媒體課件對(duì)主要知識(shí)點(diǎn)進(jìn)行講述，并輔以板書(shū)詳解，具體如下： 課程引入： 失真在傳輸中是不可避免的，如何用數(shù)學(xué)方法來(lái)描述失真，并且降低失真顯得格外重要。小結(jié)： 本次課主要對(duì)失真函數(shù)、平均失真、信息率失真函數(shù)R(D)、信息率失真函數(shù)的性質(zhì)、信息率失真函數(shù)與信道容量的比較分別進(jìn)行詳細(xì)講解，總結(jié)其中的重難點(diǎn)。 七、課外學(xué)習(xí)輔導(dǎo)安排及作業(yè)布置 教材P82 4-1 八、其他 第次課教案 一、講授內(nèi)容 第3章 離散信源無(wú)失真編碼 3.1 概述 3.2 等長(zhǎng)碼及等長(zhǎng)編碼定理 二、教學(xué)目的及要求 要求學(xué)生了解信源編碼的內(nèi)容，掌握信源編碼的定義，掌握無(wú)失真信源編碼的內(nèi)容：定長(zhǎng)編碼原理、變長(zhǎng)編碼原理。 三、教學(xué)重點(diǎn) 信源編碼的定義、無(wú)失真信源編碼的內(nèi)容：定長(zhǎng)編碼原理、變長(zhǎng)編碼原理。 四、教學(xué)難點(diǎn) 無(wú)失真信源編碼的內(nèi)容：定長(zhǎng)編碼原理、變長(zhǎng)編碼原理。 五、本講計(jì)劃學(xué)時(shí)及時(shí)間分配 計(jì)劃2個(gè)學(xué)時(shí)，主講信源編碼的定義、無(wú)失真信源編碼的內(nèi)容：定長(zhǎng)編碼原理、變長(zhǎng)編碼原理、最佳編碼原理。課程導(dǎo)入5分鐘；信源編碼的定義講解20分鐘；無(wú)失真信源編碼講授20分鐘；定長(zhǎng)編碼原理講解20分鐘；變長(zhǎng)編碼原理講授20分鐘；課堂練習(xí)與習(xí)題講解10分鐘；本節(jié)課知識(shí)點(diǎn)總結(jié)5分鐘。 六、實(shí)施步驟 利用多媒體課件對(duì)主要知識(shí)點(diǎn)進(jìn)行講述，并輔以板書(shū)詳解，具體如下： 課程引入：怎樣才能做到盡可能不失真而又快速的傳遞信息呢？首先需要解決一個(gè)問(wèn)題：在不失真或允許一定失真的條件下，如何用盡可能少的符號(hào)來(lái)傳送信源信息，這就要引入信源編碼。小結(jié)： 本次課主要對(duì)信源編碼的定義，無(wú)失真信源編碼的內(nèi)容進(jìn)行詳細(xì)介紹，總結(jié)其中的重點(diǎn)與難點(diǎn)。 以課堂練習(xí)為主，教材P115 5-2 八、其他 無(wú) 第次課教案 一、講授內(nèi)容 第3章 離散信源無(wú)失真編碼 3.4 變長(zhǎng)碼的編碼方法 二、教學(xué)目的及要求 要求學(xué)生了解信源編碼的內(nèi)容，掌握信源編碼的定義，最佳變長(zhǎng)編碼以及最佳變長(zhǎng)編碼的三種編碼方法：香農(nóng)（Shannon）編碼；費(fèi)諾（Fano）編碼；哈夫曼（Huffman）編碼。 三、教學(xué)重點(diǎn) 最佳變長(zhǎng)編碼以及最佳變長(zhǎng)編碼的三種編碼方法：香農(nóng)（Shannon）編碼；費(fèi)諾（Fano）編碼；哈夫曼（Huffman）編碼。 四、教學(xué)難點(diǎn) 最佳變長(zhǎng)編碼以及最佳變長(zhǎng)編碼的三種編碼方法：香農(nóng)（Shannon）編碼；費(fèi)諾（Fano）編碼；哈夫曼（Huffman）編碼 五、本講計(jì)劃學(xué)時(shí)及時(shí)間分配 計(jì)劃2個(gè)學(xué)時(shí)，主講信源編碼的定義、無(wú)失真信源編碼的第三個(gè)內(nèi)容：最佳變長(zhǎng)編碼原理。課程導(dǎo)入5分鐘；信源編碼的定義復(fù)習(xí)10分鐘；無(wú)失真信源編碼復(fù)習(xí)15分鐘；最佳變長(zhǎng)編碼原理以及常用的三種編碼方法：香農(nóng)（Shannon）編碼；費(fèi)諾（Fano）編碼；哈夫曼（Huffman）編碼講授50分鐘；課堂練習(xí)與習(xí)題講解15分鐘；本節(jié)課知識(shí)點(diǎn)總結(jié)5分鐘。 六、實(shí)施步驟 利用多媒體課件對(duì)主要知識(shí)點(diǎn)進(jìn)行講述，并輔以板書(shū)詳解，具體如下： 課程引入：最佳碼：對(duì)于某一信源和某一碼符號(hào)集來(lái)說(shuō)，若有一唯一可譯碼，其平均碼長(zhǎng)K小于所有其他唯一可譯碼的平均長(zhǎng)度。為此必須將概率大的信息符號(hào)編以短的碼字，概率小的符號(hào)編以長(zhǎng)的碼字，使得平均碼字長(zhǎng)度最短。小結(jié)： 本次課主要對(duì)最佳變長(zhǎng)編碼及實(shí)現(xiàn)最佳變長(zhǎng)編碼的三種方法進(jìn)行詳細(xì)介紹，總結(jié)其中的重點(diǎn)與難點(diǎn)。 以課堂練習(xí)為主，教材P115 5-7 八、其他 無(wú) 第次課教案 一、講授內(nèi)容 第3章 離散信源無(wú)失真編碼 3.3 變長(zhǎng)碼及變長(zhǎng)碼編碼定理 二、教學(xué)目的及要求 要求學(xué)生掌握限失真編碼定理的內(nèi)容，掌握常用信源編碼的幾種方法：游程編碼、算術(shù)編碼、矢量量化、預(yù)測(cè)編碼、變換編碼。 三、教學(xué)重點(diǎn) 限失真編碼定理，常用信源編碼的幾種方法：游程編碼、算術(shù)編碼、矢量量化、預(yù)測(cè)編碼、變換編碼。 四、教學(xué)難點(diǎn) 常用信源編碼的幾種方法：游程編碼、算術(shù)編碼、矢量量化、預(yù)測(cè)編碼、變換編碼。 五、本講計(jì)劃學(xué)時(shí)及時(shí)間分配 計(jì)劃2個(gè)學(xué)時(shí)，主講限失真編碼定理，常用信源編碼的幾種方法：游程編碼、算術(shù)編碼、矢量量化、預(yù)測(cè)編碼、變換編碼。課程導(dǎo)入5分鐘；限失真編碼定理講解20分鐘；常用信源編碼的幾種方法：游程編碼、算術(shù)編碼、矢量量化、預(yù)測(cè)編碼、變換編碼講解55分鐘；課堂練習(xí)與習(xí)題講解15分鐘；本節(jié)課知識(shí)點(diǎn)總結(jié)5分鐘。 六、實(shí)施步驟 利用多媒體課件對(duì)主要知識(shí)點(diǎn)進(jìn)行講述，并輔以板書(shū)詳解，具體如下： 課程引入： 對(duì)上次課的主要知識(shí)點(diǎn)進(jìn)行復(fù)習(xí)，對(duì)本次課的主要內(nèi)容進(jìn)行簡(jiǎn)單介紹。小結(jié)： 本次課主要對(duì)限失真編碼定理，常用信源編碼的幾種方法：游程編碼、算術(shù)編碼、矢量量化、預(yù)測(cè)編碼、變換編碼內(nèi)容進(jìn)行詳細(xì)介紹，總結(jié)其中的重點(diǎn)與難點(diǎn)。以課堂練習(xí)為主，教材P115 5-14 第次課教案 一、講授內(nèi)容 第5章 有噪信道編碼 5.1 信道編碼的基本概念 5.2 譯碼規(guī)則及錯(cuò)誤概率 5.3 信道編碼定理 5.4 費(fèi)諾引理及信道編碼逆定理 二、教學(xué)目的及要求 要求學(xué)生掌握有擾離散信道的編碼定理，掌握差錯(cuò)和差錯(cuò)控制系統(tǒng)分類、矢量空間與碼空間、隨機(jī)編碼、信道編碼定理。 三、教學(xué)重點(diǎn) 有擾離散信道的編碼定理、差錯(cuò)和差錯(cuò)控制系統(tǒng)分類、矢量空間與碼空間、隨即編碼、信道編碼定理。 四、教學(xué)難點(diǎn) 差錯(cuò)和差錯(cuò)控制系統(tǒng)分類、矢量空間與碼空間、隨機(jī)編碼、信道編碼定理。 五、本講計(jì)劃學(xué)時(shí)及時(shí)間分配 計(jì)劃2個(gè)學(xué)時(shí)，主講有擾離散信道的編碼定理、差錯(cuò)和差錯(cuò)控制系統(tǒng)分類、矢量空間與碼空間、隨機(jī)編碼、信道編碼定理。課程導(dǎo)入5分鐘；有擾離散信道的編碼定理講解20分鐘；差錯(cuò)和差錯(cuò)控制系統(tǒng)分類講解15分鐘；矢量空間與碼空間講授15分鐘；隨機(jī)編碼講授15分鐘；信道編碼定理講授15分鐘；課堂練習(xí)與習(xí)題講解10分鐘；本節(jié)課知識(shí)點(diǎn)總結(jié)5分鐘。 六、實(shí)施步驟 利用多媒體課件對(duì)主要知識(shí)點(diǎn)進(jìn)行講述，并輔以板書(shū)詳解，具體如下： 課程引入： 信道編碼的目的是為了改善通信系統(tǒng)的傳輸質(zhì)量，對(duì)不同類型的信道，要對(duì)癥下藥，設(shè)計(jì)不同類型的信道編碼，才能收到良好效果。小結(jié)： 本次課主要對(duì)有擾離散信道的編碼定理、差錯(cuò)和差錯(cuò)控制系統(tǒng)分類、矢量空間與碼空間、隨機(jī)編碼、信道編碼定理內(nèi)容進(jìn)行詳細(xì)介紹，總結(jié)其中的重點(diǎn)與難點(diǎn)。以課堂練習(xí)為主，教材P202 6- 1、6-2 八、其他 無(wú) 第次課教案 一、講授內(nèi)容 第7章 線性分組碼 7.1 糾錯(cuò)碼的基本概念 7.3 線性分組碼的編碼 二、教學(xué)目的及要求 要求學(xué)生掌握糾錯(cuò)編碼碼的基本原理與分析方法（糾錯(cuò)編碼的基本思路）、糾錯(cuò)譯碼的基本原理與分析方法，譯碼方法——最優(yōu)譯碼與最大似然譯碼 三、教學(xué)重點(diǎn) 糾錯(cuò)編碼碼的基本原理與分析方法、糾錯(cuò)譯碼的基本原理與分析方法，譯碼方法——最優(yōu)譯碼與最大似然譯碼。 四、教學(xué)難點(diǎn) 糾錯(cuò)譯碼的基本原理與分析方法，譯碼方法——最優(yōu)譯碼與最大似然譯碼。 五、本講計(jì)劃學(xué)時(shí)及時(shí)間分配 計(jì)劃2個(gè)學(xué)時(shí)，主講糾錯(cuò)編碼碼的基本原理與分析方法、糾錯(cuò)譯碼的基本原理與分析方法，譯碼方法——最優(yōu)譯碼與最大似然譯碼。課程導(dǎo)入5分鐘；糾錯(cuò)編碼碼的基本原理與分析方法講解25分鐘；糾錯(cuò)譯碼的基本原理與分析方法講解20分鐘；最優(yōu)譯碼講授20分鐘；最大似然譯碼講授15分鐘；課堂練習(xí)與習(xí)題講解10分鐘；本節(jié)課知識(shí)點(diǎn)總結(jié)5分鐘。 六、實(shí)施步驟 利用多媒體課件對(duì)主要知識(shí)點(diǎn)進(jìn)行講述，并輔以板書(shū)詳解，具體如下： 課程引入： 檢錯(cuò)與糾錯(cuò)原理：一旦1→0，0→1，接收端無(wú)法發(fā)現(xiàn)錯(cuò)誤，插入1位監(jiān)督碼后具有檢出1位錯(cuò)碼的能力，但不能予以糾正。在只有1位錯(cuò)碼的情況下，可以判決哪位是錯(cuò)碼并予以糾正，可以檢出2位或2位以下的錯(cuò)碼。小結(jié)： 本次課對(duì)糾錯(cuò)編碼碼的基本原理與分析方法、糾錯(cuò)譯碼的基本原理與分析方法，譯碼方法——最優(yōu)譯碼與最大似然譯碼內(nèi)容進(jìn)行詳細(xì)介紹，總結(jié)其中的重點(diǎn)與難點(diǎn)。 以課堂練習(xí)為主，教材P202 6-12 八、其他 無(wú) 第次課教案 一、講授內(nèi)容 第7章 線性分組碼 7.4 線性碼的糾檢錯(cuò)能力 7.5 標(biāo)準(zhǔn)陣列和譯碼 7.6 漢明碼 二、教學(xué)目的及要求 要求學(xué)生掌握線性分組碼的編碼原理，以及線性分組碼的生成矩陣與校驗(yàn)矩陣、伴隨式與標(biāo)準(zhǔn)陣列譯碼、碼距、糾錯(cuò)能力、MDC碼及重量譜、完備碼、循環(huán)碼、BCH碼與RS碼，了解分組碼的擴(kuò)展、縮短與循環(huán)冗余校驗(yàn)。 三、教學(xué)重點(diǎn) 線性分組碼的生成矩陣與校驗(yàn)矩陣、伴隨式與標(biāo)準(zhǔn)陣列譯碼、碼距、糾錯(cuò)能力、MDC碼及重量譜、完備碼、循環(huán)碼、BCH碼與RS碼、分組碼的擴(kuò)展、縮短與循環(huán)冗余校驗(yàn)。 四、教學(xué)難點(diǎn) 碼距、糾錯(cuò)能力、MDC碼及重量譜、完備碼、循環(huán)碼、BCH碼與RS碼、分組碼的擴(kuò)展、縮短與循環(huán)冗余校驗(yàn)。 五、本講計(jì)劃學(xué)時(shí)及時(shí)間分配 計(jì)劃2個(gè)學(xué)時(shí)，主講線性分組碼的編碼原理與特點(diǎn)。課程導(dǎo)入5分鐘；線性分組碼的生成矩陣與校驗(yàn)矩陣講解20分鐘；伴隨式與標(biāo)準(zhǔn)陣列譯碼講解15分鐘；碼距、糾錯(cuò)能力、MDC碼及重量譜講授15分鐘；完備碼、循環(huán)碼、BCH碼與RS碼講授25分鐘；分組碼的擴(kuò)展、縮短與循環(huán)冗余校驗(yàn)講解15分鐘；本節(jié)課知識(shí)點(diǎn)總結(jié)5分鐘。 六、實(shí)施步驟 課程引入：對(duì)上次課主要知識(shí)點(diǎn)進(jìn)行復(fù)習(xí)，并對(duì)本次課的主要內(nèi)容進(jìn)行簡(jiǎn)單介紹。小結(jié)： 本次課主要對(duì)線性分組碼的生成矩陣與校驗(yàn)矩陣、伴隨式與標(biāo)準(zhǔn)陣列譯碼、碼距、糾錯(cuò)能力、MDC碼及重量譜、完備碼、循環(huán)碼、BCH碼與RS碼，分組碼的擴(kuò)展、縮短與循環(huán)冗余校驗(yàn)進(jìn)行詳細(xì)介紹，總結(jié)其中的重點(diǎn)與難點(diǎn)。以課堂練習(xí)為主，教材P202 6-13 八、其他 無(wú) 第次課教案 一、講授內(nèi)容 第9章 卷積碼 9.1 卷積碼基本概念 9.2 卷積碼的數(shù)學(xué)描述 二、教學(xué)目的及要求 要求學(xué)生掌握卷積碼的基本概念和描述方法，掌握卷積碼的最大似然譯碼——維比特算法，了解卷積碼的性能與距離特點(diǎn)。 三、教學(xué)重點(diǎn) 卷積碼的基本概念和描述方法、卷積碼的最大似然譯碼——維比特算法、卷積碼的性能與距離特點(diǎn)。 四、教學(xué)難點(diǎn) 卷積碼的最大似然譯碼——維比特算法、卷積碼的性能與距離特點(diǎn)。 五、本講計(jì)劃學(xué)時(shí)及時(shí)間分配 計(jì)劃2個(gè)學(xué)時(shí)，主講卷積碼的基本概念和描述方法、卷積碼的最大似然譯碼——維比特算法、卷積碼的性能與距離特點(diǎn)。課程導(dǎo)入5分鐘；卷積碼的基本概念和描述方法講解30分鐘；卷積碼的最大似然譯碼——維比特算法講授35分鐘；分組碼的擴(kuò)展、卷積碼的性能與距離特點(diǎn)講解15分鐘；課堂練習(xí)與習(xí)題講解10分鐘；本節(jié)課知識(shí)點(diǎn)總結(jié)5分鐘。 六、實(shí)施步驟 課程引入：對(duì)上次課主要知識(shí)點(diǎn)進(jìn)行復(fù)習(xí)，并對(duì)本次課的主要內(nèi)容進(jìn)行簡(jiǎn)單介紹。小結(jié)： 本次課主要對(duì)卷積碼的基本概念和描述方法、卷積碼的最大似然譯碼——維比特算法、卷積碼的性能與距離特點(diǎn)進(jìn)行詳細(xì)介紹，總結(jié)其中的重點(diǎn)與難點(diǎn)。以課堂練習(xí)為主，教材P202 6- 16、6-17 八、其他 無(wú)第次課教案 一、講授內(nèi)容 第六章 信道編碼總復(fù)習(xí)與習(xí)題講解 二、教學(xué)目的及要求 要求學(xué)生掌握有擾離散信道的編碼定理、糾錯(cuò)編碼和譯碼的基本原理與分析方法、線性分組碼的基本概念的編碼原理，卷積碼的基本概念和描述方劑以及最大似然譯碼原理。 三、教學(xué)重點(diǎn) 有擾離散信道的編碼定理、糾錯(cuò)編碼和譯碼的基本原理與分析方法、線性分組碼的基本概念的編碼原理，卷積碼的基本概念和描述方劑以及最大似然譯碼原理。 四、教學(xué)難點(diǎn) 有擾離散信道的編碼定理、糾錯(cuò)編碼和譯碼的基本原理與分析方法、線性分組碼的基本概念的編碼原理，卷積碼的基本概念和描述方劑以及最大似然譯碼原理 五、本講計(jì)劃學(xué)時(shí)及時(shí)間分配 計(jì)劃2個(gè)學(xué)時(shí)，主講有擾離散信道的編碼定理、糾錯(cuò)編碼和譯碼的基本原理與分析方法、線性分組碼的基本概念的編碼原理，卷積碼的基本概念和描述方劑以及最大似然譯碼原理。課程導(dǎo)入5分鐘；有擾離散信道的編碼定理總結(jié)15分鐘；糾錯(cuò)編碼和譯碼的基本原理與分析方法總結(jié)20分鐘，線性分組碼的基本概念的編碼原理總結(jié)15分鐘；卷積碼的基本概念和描述方劑以及最大似然譯碼原理總結(jié)20分鐘；課堂練習(xí)及課后習(xí)題講解20分鐘，本節(jié)課知識(shí)點(diǎn)總結(jié)5分鐘。 六、實(shí)施步驟 課程引入： 由于信道編碼在整個(gè)編碼中的地位相當(dāng)重要，因此對(duì)第六章的全部知識(shí)點(diǎn)要求做全面總結(jié)。第六章總復(fù)習(xí)： 有擾離散信道的編碼定理； 糾錯(cuò)編碼和譯碼的基本原理與分析方法； 線性分組碼的基本概念的編碼原理； 卷積碼的基本概念和描述方劑以及最大似然譯碼原理。小結(jié)： 本次課主要對(duì)有擾離散信道的編碼定理、糾錯(cuò)編碼和譯碼的基本原理與分析方法、線性分組碼的基本概念的編碼原理，卷積碼的基本概念和描述方劑以及最大似然譯碼原理等第六章的重要知識(shí)點(diǎn)進(jìn)行總復(fù)習(xí)與習(xí)題講解。 七、課外學(xué)習(xí)輔導(dǎo)安排及作業(yè)布置 課堂練習(xí)為主，P202 6- 6、6-8 八、其他 無(wú)第二篇：20120618信息論與編碼課程設(shè)計(jì)任務(wù)書(shū)
第三篇：信息論與編碼
第四篇：信息論與編碼教學(xué)大綱
第五篇：信息論與編碼教案匯總[范文]
點(diǎn)擊咨詢 