第一篇：信息論教研室建設計劃

信息論教研室建設規(guī)劃

考慮教研室規(guī)劃,實質就是抓教研室建設的三個核心,即: 一是教師隊伍建設,而是課程建設,三是科研工作建設.教師隊伍建設是教研室組織建設的核心,課程建設是教研室中心工作的核心----培養(yǎng)學生的必要條件和基礎.科研建設是是教學工作的基礎，在學校和師資隊伍建設及學校的生存、改革和發(fā)展中具有舉足輕重的地位。

初步計劃將上述三個核心任務有機的結合起來.而且要同時把這三項建設與學校的院校建設相結合.現(xiàn)對信息論教研室建設制定未來三年的規(guī)劃.一教師隊伍建設日常教學工作

教師隊伍建設必須與課程建設、教學評估、學生發(fā)展和日常教學工作密切結合起來,在實際工作中鍛煉和培養(yǎng)教師.所以在研究課程建設、教學評估、學生發(fā)展和日常教學等工作時要從教師隊伍建設、教師的培養(yǎng)與發(fā)展的角度出發(fā),注意教師結構、教師力量的配備,注重實際效果和可持續(xù)發(fā)展效應.讓全體教師在實際工作中,以自己的表現(xiàn)、自己的能力、自己的水平找到并擺正自己的位置,再在實際中揚優(yōu)補缺,不斷提高、不斷變化,自然形成一支高質量的合理的教師梯隊.加大中青年教師培訓力度

重視青年教師政治思想、專業(yè)思想、教育思想的學習與提高，進行“敬業(yè)、奉獻、愛生”教育，通過情感激勵增強青年教師的價值感.堅持“青年教師導師制”。為每名青年教師選配一名思想作風好、學術水平高、教學經(jīng)驗豐富、治學嚴謹?shù)闹笇Ы處?，一對一進行指導，發(fā)揮老教師的“傳、幫、帶”作用。

定期舉行教學研討會,廣泛開展交流。支持青年教師參加專業(yè)培訓與學術研討活.以科研促教學。要求青年教師積極參與科研活動，在實際的科研活動中提高教學能力.二課程建設注重綜合素質培養(yǎng),提升職業(yè)核心能力

隨著高科技信息時代的到來,社會分工的變化,由原來的單一工種逐漸向復合工種轉變.技術進步導致了簡單職業(yè)向綜合職業(yè)演變.

第二篇：信息論修改版

信息論局限性分析以及在光通信中的應用

摘要

從新的角度指出了香農(nóng)信息論的局限性，這些局限性主要體現(xiàn)在對信息的可靠性和完備性的忽視，通過例子分析進一步說明信息可靠性對于度量信息的重要意義。指出局限性產(chǎn)生的根源在于對信息多重不確定性的忽視，以及對概率值本身存在不確定性的認識不足。后半部分介紹了信息論在光通信領域的一些應用。

關鍵詞：信息論，通信，可靠性，糾錯，概率，光通信。

Abstract The limitations of Shannon information theory are pointed out from new angles.The limitations areembodied in the neglect of the reliability and completeness of information.The significance of the reliability of information to measure information is further illustrated by the analysis of some examples.It is pointed out that the origin of the limitation rests with the neglect of multiple uncertainty of information and the lack of cognition that the value of probability maybe uncertain itself.Keywords: information theory, communication, reliability, errorcorrection,probability optical communication.正文

第一小節(jié)：信息論的局限性分析 1.引言

香農(nóng)(Shannon)信息論對通信技術的發(fā)展具有深遠的影響。但是信息論的應用一直限于通信等一些很局限的領域，信息論并不能夠完全地適用于一些信息技術相關的領域。關于香農(nóng)信息論的局限性，許多學者都有認識，香農(nóng)本人也反對將信息論濫用。國內外一些學者從許多角度討論了信息論的局限性，比如沒有考慮語義、語用，沒有考慮信息的模糊性和事件之間的相似性，沒有考慮事件劃分可能存在包含關系等。筆者發(fā)現(xiàn)信息論的局限性一個重要體現(xiàn)就是忽視信息的可靠性，缺乏對可靠性的度量。

2.香農(nóng)信息論針對現(xiàn)實問題的局限性

香農(nóng)對信息的定義，對信息的度量，以及他的信息論，基本上都是用熵來計算的隨機不確定性，并沒有考慮信息的可靠度，對信息的可靠度的考慮最多是從信息傳遞過程中的失真進行了考慮。香農(nóng)將信息定義為消除不確定性的東西，與他研究通信中的條件熵不增加有密切關系。

現(xiàn)信息論存在如下局限性：第一，信息論沒有考慮信息的可靠性問題，而現(xiàn)實中的信息大多數(shù)都是不可靠的。而信息的可靠性卻是信息價值的前提，比如情報類信息的可靠性就非常重要。信息的可靠性是信息的主要指標，但是信息論沒有考慮，僅僅是考慮到信息的不確定性。

第二，信息的完備性問題，信息論并沒有考慮信息并不完全發(fā)送的情況，而現(xiàn)實中許多信息都是不完全（完備）、片面的，需要融合。在沒有更加完備信息的場合下，人們往往權宜地將片面的信息姑且當作全面的信息來對待這一些簡單的信道并聯(lián)和串聯(lián)可以合為一個信道，比如簡單的兩個串聯(lián)信道的信道矩陣可以直接通過相乘而當作一個信道，但是信息論沒有考慮信息復雜的多重傳遞，比如，信息從一個信源傳遞到中間信宿，而中間信宿又轉發(fā)給一個最終信宿，而且在這個轉換的過程中，信息的表示發(fā)生了改變，在這種多重傳遞的過程中，可能會產(chǎn)生多重不確定性。

第三，現(xiàn)實中的信息往往需要經(jīng)過這種多重傳遞，導致多重不確定性。比如，當然如果考慮前面提到的模糊集合等，這種多重不確定性性將更加復雜。信息論沒有考慮到信道矩陣的傳遞概率等參數(shù)的復雜性?，F(xiàn)實中這種傳輸特性可能不是確定不變的，而可能是隨機變量，甚至可能更加復雜。

第四，信息論中以通信為研究對象，其傳輸?shù)男盘柋旧硎谴_定的，然而現(xiàn)實中卻存在許多不確定性問題。在通信中，定義信息為消除不確定性的東西無可厚非，但是面對本身不確定的信息，我們如果去消除其不確定性。

第五，信息論中的條件相對而言是簡單的，而且多是以條件概率來表示的。然而現(xiàn)實中許多中的信息的條件是比較復雜的，比如，給出的條件可能是知識、規(guī)律等等，在已知先驗概率的情況下，又得知某一個規(guī)律，通過這個規(guī)律并不能簡單得出相應的條件概率來。

第六，信息論用先驗概率來表示已知的信息，然而，現(xiàn)實中，許多已知的信息并不是可以用先驗概率來表示，比如可能包含未知數(shù)，可能是某個約束條件，可能是某個規(guī)律，甚至可能是完全未知的。3.實際應用分析

實例1：甲從乙處得到情報：“敵人明天早晨百分之九十九要發(fā)動進攻”。此后，甲同樣從丙處得到相同的情報。從信息論角度來看，對于問題“敵人明天早晨是否要發(fā)動進攻”，不確定性是一樣的，因而信息量一樣，丙似乎并不提供新的信息。但是人們依然會感覺從丙處得到了信息，這種信息使得甲更加確定“敵人明天早晨百分之九十九要發(fā)動進攻”，這一例子進一步說明信息的可靠性應當是一個度量信息的指標。

實例2：當獲得消息“所有的事件都是等概率發(fā)生的”的時候，對這句話的內容是什么，或者對于問題“所有的事件發(fā)生呈現(xiàn)什么樣的概率分布”而言，它消除了不確定性。但是對于什么事件將發(fā)生情況，不可能是更加確定，信息量不可能增加而只可能是減少。這一點說明信息量僅僅是針對于消息本身的不確定性而言的，而該消息衍生出來的問題的不確定性并不與消息的信息量有必然聯(lián)系，因此，信息熵這一度量的應用范圍也是有限的，并不適合應用在日常的信息問題中。

通過以上的例子分析，暴露出信息論的一些局限性，為挖掘信息論局限性的根源提供了基礎。

4.信息論局限性的本質及結論

由以上例子分析可以得出，信息論沒有考慮信息的可靠性，而信息的可靠性是一個非常重要的指標。在通信中，由于消息是確定的，因此，不確定性的消除與可靠性的增加有一定的聯(lián)系。實際上，我們要消除不確定性是很容易的事情，而香農(nóng)信息論的消除不確定性是以保證信息的可靠性和完備性為基礎的，比如利用糾錯碼糾錯，利用后驗概率來增強信息的完備性。假如把信息的確定性當作唯一的指標，拋開信息的可靠性問題，則可以隨便確定某一事件的概率為1，其余事件的概率為0 就可以了。再假如，我們把信息的確定性當作首要考慮的目標，其次考慮其可靠性，則我們也可以指定概率最大的事件概率為1，其余事件概率為0。這樣首先保證了確定性，可靠性也在一定程度上得到了滿足。如果如此，信息論和信息處理就變得相當?shù)暮唵瘟恕ｏ@然現(xiàn)實中人們不是這樣的。根據(jù)以上多處的分析，可靠度是信息的一個首要指標。以上的信息的可靠性、完備性以及經(jīng)典集合的不切和實際都可以歸結為對信息的多重不確定性的忽視，比如，在實例分析中，我們發(fā)現(xiàn)不可靠的信息，它的信息表示本身是不固定的，其概率值可能是隨機變量，不完備的信息也是類似。對于模糊集和粗糙集之類的非經(jīng)典集合，則可以認為是某一個集合包含的對象不確定而造成的，比如，在粗糙集中，對象可能屬于也可能不屬于集合X，對象a 是否屬于集合X 就具有隨機不確定性。其中一些不確定性與信息論原有的不確定性疊加起來就可能產(chǎn)生多重不確定性。這里的不確定性除了隨機不確定性、模糊不確定性，還可能有更多形式的不確定性，包括某些不完全的約束條件造成的不確定性?？梢?，對信息多重不確定性的忽視是信息論的局限性的重要的根源。對信息可靠性的忽視也是信息論無法廣泛應用的重要原因。鑒于所有的信息都很難可靠和完備，所以我們可以將可靠性和完備性問題總歸為信息的相對性問題。實際上，現(xiàn)實中人們很難得出完全可靠的信息，只有權宜地采用相對可靠的信息，當有更加可靠的信息的時候，人們會利用更可靠的信息取代先驗的信息。由于可靠性也與概率值的不確定性有關系，對信息可靠性的度量也可以借鑒香農(nóng)對信息不確定性的度量，然而，計算概率的不確定性會比信息熵的計算復雜，因為概率需要滿足更多的約束條件。

當然，信息論也與現(xiàn)實信息問題具有很強相似性，信息論的方法很值得在現(xiàn)實的信息問題的研究中（包括信息的可靠性的研究中）借鑒，總而言之，信息論的局限性是源于信息論是針對通信問題的，其模型本身具有的局限性。當然也與概率論的局限性有關系，由于對概率值隨機性和多重隨機不確定性研究的不足，使得人們容易陷入“概率（包括聯(lián)合概率分布）就是確定值，而不可能是隨機變量”，“給定條件就可以得出條件概率”等思維定勢中，而這些思維定勢只是適用于現(xiàn)實概率論問題中的一部分。由于信息論的這些限制條件能夠較好地滿足通信問題，使得它能夠在通信領域得到成功的應用，而推廣到一般的信息領域則需要針對它的局限性解除相應的約束條件。

第二小節(jié)．信息論在光通信中的應用

自香農(nóng)(C．E．Shannom)提出信息理論以來，信息論已經(jīng)成為通信理論中重要而又基礎的一部分。如今，通信中越來越多的使用光作為傳輸媒質以及光器件的快速發(fā)展，電信道已被光信道所取代。光信道的信息容量的大小已成為人們關心的課題。對此進行分析和比較。

光量子信道的信道容量從信息論的角度可以認為光量子信道是信號和噪聲疊加的加性信道。假設在頻率

fi時，輸人信號產(chǎn)生的平均量子數(shù)為xi，噪聲產(chǎn)生的平均量子數(shù)為ni可得，對于頻率，輸出信號的平均量子數(shù)為

y=x+niii

p(xi)p()p(yi)，ni，假設xi與ni統(tǒng)計獨立。設xi，ni，p(yi的概率密度函數(shù)為yi且x)i=p(ni)在特定頻率 上，光量子信道的平均互信息:

I(y;xi)?H(y)?H(ni)ii（*）

因為固定時間間隔?t，?t?1/fi，所以單位時間內的平均互信息:

1?I(X;Y)??I(y;xi)?H(Y)?H(n)i?ti?0

在f1上，假設接收信號的光量子的離散能譜為Ei?hfi(h是普朗克常數(shù)).由于熱輻射，光量子的波動服從Gibb分布

p(ni)?1?exp[?hfi/kT]exp[nihfi/kT]

2H(n)??Kt/3hln2 可得，光量子的波動引起的噪聲熵:信號最大熵：

H(Y)????p(y)logp(y)df?ii03hln2yi?0

C?由式（*）可得光量子信道容量：

??2kTe?2Kt3hln2[(1?6hs1/2)?1]?kT

6hs??12當hf??kT,即信噪比(?kT)時，光量子信道的信道容量極限值為：

C光量子=2S1/2)ln23h

(1)

(?6hs??12當信噪比很小(?kT)時，光量子信道的信道容量極限值為

C經(jīng)典=SN0ln2

(2)

此式正是由香農(nóng)公式得到的信道容量極限值式，其中N0?KT。

結論

從以上分析可看出，對于光量子信道來言，當頻率很高時，信道容量的極限值是式(1)，而不是式(2)。只有當信噪比很低時，光量子信道的極限值才等于香農(nóng)信道容量公式的極限值。因此，對于窄帶的光量子信道，帶寬?f??f（中心頻率)時，可計算得光量子信道的極限值就等于香農(nóng)信道容量公式。

參考文獻

[1]朱雪龍著．應用信息論基礎．清華大學出版社.[2]傅祖蕓著．信息論基礎理論與應用．電子工業(yè)出版社，2001(8).[3]陶純堪，陶純匡著．光學信息論．科學出版社，1999(3).[4]Shannon C E.A mathematical theory of communication[J]，Bell System Technical Journal,27(1948)，379—429，623—656.[5].鐘義信．信息科學原理[M]．福州：福建人民出版社，1988． [6].魯晨光．廣義信息論[M]．中國科技大學出版社，1993.[7].王勇，香農(nóng)信息定義分析與改進[OL]，004km.cn, 2007年11月.

第三篇：信息論發(fā)展

信息論的發(fā)展與現(xiàn)代信息論

現(xiàn)代信息論是從上世紀二十年代奈奎斯特和哈特萊的研究開始的,他們最早開始研究了通信系統(tǒng)傳輸信息的能力,并且試圖度量系統(tǒng)的信道容量。香農(nóng)于 1940 年在普林斯頓高級研究所期間開始思考信息論與有效通信系統(tǒng)的問題。經(jīng)過 8 年的努力,1948 年,來自貝爾研究所的 Claude Shannon（克勞德·香農(nóng)）的《通信的數(shù)學理論》論文公諸于世,從此宣告了嶄新的一門關于信息發(fā)面的學科──信息論的誕生。1949 年,香農(nóng)又在該雜志上發(fā)表了另一著名論文《噪聲下的通信》。在這兩篇論文中,香農(nóng)闡明了通信的基本問題,給出了通信系統(tǒng)的模型,提出了信息量的數(shù)學表達式,并解決了信道容量、信源統(tǒng)計特性、信源編碼、信道編碼等一系列基本技術問題。兩篇論文成為了信息論的奠基性著作。這兩篇論文一起闡述了現(xiàn)代信息論的基礎。并且香農(nóng)開始創(chuàng)造性的定義了“信息”。

信息論自從二十世紀四十年代中葉到二十一世紀初期,現(xiàn)已成為一門獨立的理論科學,他給出一切傳輸、存儲、處理信息系統(tǒng)的一般理論,并指出,實現(xiàn)有效、可靠地傳輸和存儲信息的途徑是走數(shù)字化的道路。這是通信技術領域數(shù)字化革命的數(shù)學或理論基礎。1946 年的計算機和 1947 年晶體管的誕生和相應技術的發(fā)展,是這一革命的物理或物質基礎。信息論是在長期的通信工程實踐和理論研究的基礎上發(fā)展起來的。當物理學中的電磁理論以及后來的電子學理論一旦有某些進展,很快就會促進電信系統(tǒng)的創(chuàng)造發(fā)明或改進。這是因為通信系統(tǒng)對人類社會的發(fā)展,其關系實在是太密切了。日常生活、工農(nóng)業(yè)生產(chǎn)、科學研究以及戰(zhàn)爭等等,一切都離不開消息傳遞和信息流動。通信系統(tǒng)是人類社會的神經(jīng)系統(tǒng),即使在原始社會也存在著最簡單的通信工具和通信系統(tǒng),這方面的社會實踐是悠久漫長的。自從香農(nóng)十九世紀四十年代末兩篇論文發(fā)表后,前蘇聯(lián)和美國的科學家采取了不同的研究途徑經(jīng)一部發(fā)展了信息論。柯爾莫哥洛夫、賓斯基和達布魯新為首的一批著名數(shù)學家致力于信息論的公理化體系和更一般更抽象的數(shù)學模型,對信息論的基本定理給出了更為普遍的結果,為信息論發(fā)展成數(shù)學的一個分支作出了貢獻。而在美國測試有一批數(shù)學修養(yǎng)很高的工程技術人員致力于信息有效處理和可靠傳輸?shù)目蓪崿F(xiàn)性,維信息論轉化為信息技術作出了貢獻。

世紀 50 年代,信息論向各門學科發(fā)起沖擊；60 年代信息論進入一個消化、理解的時期,在已有的基礎上進行重大建設的時期。研究重點是信息和信源編碼問題。從此信息論邁入第二個階段。我國數(shù)學家和信息科學專家在二十世紀五十年代將信息論引進中國,經(jīng)過六十余年的不懈努力,尤其從二十世紀八十年代中期以來,一批華裔信息論專家在國際學術界崛起,以周炯盤院士為代表,為信息論的發(fā)展作出了自己的貢獻。到 70 年代,由于數(shù)字計算機的廣泛應用,通訊系統(tǒng)的能力也有很大提高,如何更有效地利用和處理信息,成為日益迫切的問題。人們越來越認識到信息的重要性,認識到信息可以作為與材料和能源一樣的資源而加以充分利用和共享。信息的概念和方法已廣泛滲透到各個科學領域,它迫切要求突破申農(nóng)信息論的狹隘范圍,以便使它能成為人類各種活動中所碰到的信息問題的基礎理論,從而推動其他許多新興學科進一步發(fā)展。

雖然 1948 年香農(nóng)就發(fā)明了信息論,但到 90 年代才找到或者再發(fā)現(xiàn)能夠逼近香農(nóng)極限的 turbo 碼和 LDPC 碼；再一個局限是香農(nóng)的大部分結果都是在一定的理想條件或極限條件下推導出來的,在實際系統(tǒng)中,這些條件可能不能滿足,因而不可能達到香農(nóng)所得出的一些結論或界限,舉一個例子,信源信道分離定理是在數(shù)據(jù)分組長度無窮大和靜態(tài)信道條件下得到的,但實際系統(tǒng)中的編碼可能會有分組長度和限制,信道也可能是時變的,因而產(chǎn)生出最近較新的所謂聯(lián)合信源信道編碼理論；最后一個是局限是點對點通信的局限性,因為通信的構架存在網(wǎng)絡結構和多用戶的結構,所以對于網(wǎng)絡和多用戶的情形,香農(nóng)并沒有更深入的研究,雖然他在 50 年代研究了 two way channel,但并未得出有意義的結果,目前網(wǎng)絡信息論或多用戶信息論是一個比較活躍的領域,主要的有意義的結論在廣播和多址接入信道,但都是退化的情形才成立的結論,更一般的情形,還有一些其他如中繼信道等,還有待進一步研究。

參考文獻：

葉中行,信息論基礎[J],高等教育出版社 盧侃,從 Shannon 信息論到認知信息論[A],哈爾濱工程大學學報,第 32 卷第 8 期.仇佩亮,信息論及其應用［M］,杭州：浙江大學出版社,1999 謝邦榮,彭征明,信息論在作戰(zhàn)效能評估中的應用研究 [A] ,北京, 2007 邵軍虎,量子 LDPC 糾錯碼算法及應用方案研究,西安電子科技大學[D] ,2012

汪洋,趙萬民,人居環(huán)境研究的信息論科學基礎及其圖譜意象系統(tǒng)[J],2012 PKU CSSCI ,香農(nóng)信息定義分析與改進[J],2008 年 8 期, 洪潔,范修斌,范明鈺,信息論及其在序列密碼設計應用中的幾點認識[] ,2003 Neil Savage, Information theory after Shannon[J], 2011, Vol.54(2)Gregory J.Chaitin,A Theory of Program Size Formally Identical to Information Theory[J],1975, Vol.22(3)知識改變命運

第四篇：信息論論文[定稿]

湖南科技大學課程結課論文

《信息論與編碼A》

學院：信息與電氣工程學院 專業(yè)： 班級： 學號： 姓名：

信息論基礎

摘要：從對信息論的一些基礎知識匯總，信息的定義，信息論的發(fā)展；還有信源與信息熵，信道與信道容量，編碼這些關鍵知識點做一個系統(tǒng)性的回顧，再結合通信領域的知識進行分析。關鍵字：信息論；

引言：

信息論是運用概率論與數(shù)理統(tǒng)計的方法研究信息、信息熵、通信系統(tǒng)、數(shù)據(jù)傳輸、密碼學、數(shù)據(jù)壓縮等問題的應用數(shù)學學科。信息系統(tǒng)就是廣義的通信系統(tǒng)，泛指某種信息從一處傳送到另一處所需的全部設備所構成的系統(tǒng)。

名稱由來：

信息論將信息的傳遞作為一種統(tǒng)計現(xiàn)象來考慮，給出了估算通信信道容量的方法。信息傳輸和信息壓縮是信息論研究中的兩大領域。這兩個方面又由信息傳輸定理、信源－信道隔離定理相互聯(lián)系。

發(fā)展簡史：

信息論是20世紀40年代后期從長期通訊實踐中總結出來的一門學科，是專門研究信息的有效處理和可靠傳輸?shù)囊话阋?guī)律的科學。

切略（E.C.Cherry）曾寫過一篇早期信息理論史，他從石刻象形文字起，經(jīng)過中世紀啟蒙語言學，直到16世紀吉爾伯特（E.N.Gilbert）等人在電報學方面的工作。

20世紀20年代奈奎斯特（H.Nyquist）和哈特萊（L.V.R.Hartley）最早研究了通信系統(tǒng)傳輸信息的能力，并試圖度量系統(tǒng)的信道容量?，F(xiàn)代信息論開始出現(xiàn)。1948年克勞德·香農(nóng)（Claude Shannon）發(fā)表的論文“通信的數(shù)學理論”是世界上首次將通訊過程建立了數(shù)學模型的論文，這篇論文和1949年發(fā)表的另一篇論文一起奠定了現(xiàn)代信息論的基礎。

由于現(xiàn)代通訊技術飛速發(fā)展和其他學科的交叉滲透，信息論的研究已經(jīng)從香農(nóng)當年僅限于通信系統(tǒng)的數(shù)學理論的狹義范圍擴展開來，而成為現(xiàn)在稱之為信息科學的龐大體系。

信息的性質：

信息有以下性質：客觀性、廣泛性、完整性、專一性。首先，信息是客觀存在的，它不是由意志所決定的，但它與人類思想有著必然聯(lián)系（第四節(jié)將具體分析）。同時，信息又是廣泛存在的，四維空間被大量信息子所充斥。信息的一個重要性質是完整性，每個信息子不能決定任何事件，須有兩個或兩個以上的信息子規(guī)則排布為完整的信息，其釋放的能量才足以使確定事件發(fā)生。信息還有專一性，每個信息決定一個確定事件，但相似事件的信息也有相似之處，其原因的解釋需要信息子種類與排布密碼理論的進一步發(fā)現(xiàn)。

基本內容：

傳統(tǒng)的通信系統(tǒng)如電報、電話、郵遞分別是傳送電文信息、語聲信息和文字信息的；而廣播、遙測、遙感和遙控等系統(tǒng)也是傳送各種信息的，只是信息類型不同，所以也屬于信息系統(tǒng)。有時，信息必須進行雙向傳送，例如電話通信要求雙向交談，遙控系統(tǒng)要求傳送控制用信息和反向的測量信息等。這類雙向信息系統(tǒng)實際上是由兩個信息系統(tǒng)構成。所有信息系統(tǒng)都可歸納成如圖所示的模型來研究它的基本規(guī)律。

信源：信息的源泉或產(chǎn)生待傳送的信息的實體，如電活系統(tǒng)中的講話者，對于電信系統(tǒng)還應包括話筒，它輸出的電信號作為含有信息的載體。

信息熵：所謂信息熵，是一個數(shù)學上頗為抽象的概念，在這里不妨把信息熵理解成某種特定信息的出現(xiàn)概率。而信息熵和熱力學熵是緊密相關的。根據(jù)Charles H.Bennett對Maxwell's Demon的重新解釋，對信息的銷毀是一個不可逆過程，所以銷毀信息是符合熱力學第二定律的。而產(chǎn)生信息，則是為系統(tǒng)引入負（熱力學）熵的過程。所以信息熵的符號與熱力學熵應該是相反的。

信宿：信息的歸宿或接受者，在電話系統(tǒng)中這就是聽者和耳機，后者把接收到的電信號轉換成聲音，供聽者提取所需的信息。信道：傳送信息的通道，如電話通信中包括中繼 器在內的同軸電纜系統(tǒng)，衛(wèi)星通信中地球站的收發(fā)信機、天線和衛(wèi)星上的轉發(fā)器等。

編碼器：在信息論中是泛指所有變換信號的設備，實際上就是終端機的發(fā)送部分。它包括從信源到信道的所有設備，如量化器、壓縮編碼器、調制器等，使信源輸出的信號轉換成適于信道傳送的信號。

譯碼器：是編碼器的逆變換設備，把信道上送來的信號轉換成信宿能接受的信號，可包括解調器、譯碼器、數(shù)模轉換器等。

哈夫曼碼：哈夫曼碼是用概率匹配方法進行信源編碼。它有兩個明顯的特點：一是哈夫 曼的編碼方法保證了概率大的符號對應于短碼，概率小的符號對應于長碼，充分利用了短碼；二是縮減信源的最后兩個碼字總是最后一位不同，從而保證了哈夫曼碼是即時碼

當信源和信宿已給定、信道也已選定后，決定信息系統(tǒng)性能就在于編碼器和譯碼器。設計一個信息系統(tǒng)時，除了選擇信道和設計其附屬設施外，主要工作也就是設計編譯碼器。一般情況下，信息系統(tǒng)的主要性能指標是它的有效性和可靠性。有效性就是在系統(tǒng)中傳送盡可能多的信息；而可靠性是要求信宿收到的信息盡可能地與信源發(fā)出的信息一致，或者說失真盡可能小。最佳編譯碼器就是要使系統(tǒng)最有效和最可靠。但是，可靠性和有效性往往是相互矛盾的。越有效常導致不可靠，反之也是如此。從定量意義上說，應使系統(tǒng)在規(guī)定的失真或基本無失真的條件下，傳送最大的信息率；或者在規(guī)定信息率的條件下，失真最小。計算這最大信息率并證明達到或接近這一值的編譯碼器是存在的，就是信息論的基本任務。只討論這樣問題的理論可稱為仙農(nóng)信息論般認為信息論的內容尚應更廣泛一些，即包括提取信息和保證信息安全的理論。后者就是估計理論、檢測理論和密碼學。

信息論是建立在概率論基礎上而形成的，也就是從信源符號和信道噪聲的概率特性出發(fā)的。這類信息通常稱為語法信息。其實，信息系統(tǒng)的基本規(guī)律也應包括語義信息和語用信息。語法信息是信源輸出符號的構造或其客觀特性所表現(xiàn)與信宿的主觀要求無關，而語義則應考慮各符號的意義，同樣一種意義，可用不同語言或文字來表示，各種語言所包含的語法信息可以是不同的。一般地說，語義信息率可小于語法信息率；電報的信息率可低于表達同一含義的語聲的信息率就是一個例子。更進一步，信宿或信息的接受者往往只需要對他有用的信息，他聽不懂的語言是有意義的，但對他是無用的。所以語用信息，即對信宿有用的信息一般又小于語義信息。倘若只要求信息系統(tǒng)傳送語義信息或語用信息，效率顯然會更高一些。在目前情況下，關于語法信息，已在概率論的基礎上建立了系統(tǒng)化的理論，形成一個學科；而語義和語用信息尚不夠成熟。因此，關于后者的論述通常稱為信息科學或廣義信息論，不屬于一般信息論的范疇。概括起來，信息系統(tǒng)的基本規(guī)律應包括信息的度量、信源特性和信源編碼、信道特性和信道編碼、檢測理論、估計理論以及密碼學。

信息與通信：

信息就是一種消息，它與通訊問題密切相關。1948年貝爾研究所的香農(nóng)在題為《通訊的數(shù)學理論》的論文中系統(tǒng)地提出了關于信息的論述，創(chuàng)立了信息論。維納提出的關于度量信息量的數(shù)學公式開辟了信息論的廣泛應用前景。1951年美國無線電工程學會承認信息論這門學科，此后得到迅速發(fā)展。20世紀50年代是信息論向各門學科沖擊的時期，60年代信息論不是重大的創(chuàng)新時期，而是一個消化、理解的時期，是在已有的基礎上進行重大建設的時期。研究重點是信息和信源編碼問題。到70年代，由于數(shù)字計算機的廣泛應用，通訊系統(tǒng)的能力也有很大提高，如何更有效地利用和處理信息，成為日益迫切的問題。人們越來越認識到信息的重要性，認識到信息可以作為與材料和能源一樣的資源而加以充分利用和共享。信息的概念和方法已廣泛滲透到各個科學領域，它迫切要求突破申農(nóng)信息論的狹隘范圍，以便使它能成為人類各種活動中所碰到的信息問題的基礎理論，從而推動其他許多新興學科進一步發(fā)展。人們已把早先建立的有關信息的規(guī)律與理論廣泛應用于物理學、化學、生物學等學科中去。一門研究信息的產(chǎn)生、獲取、變換、傳輸、存儲、處理、顯示、識別和利用的信息科學正在形成。

第五篇：教研室整改計劃

中國化馬克思主義教研室整改計劃

經(jīng)過教育部對我校教學工作進行評估，根據(jù)反饋意見，結合我教研室實際情況，擬從下列幾個方面進行整改：

一、指導思想

加強教研室建設，促進教師的教學能力、水平提高，規(guī)范教師的行為準則，促進教研室整體水平的提高，盡快達到現(xiàn)代大學教學水平，滿足我校為地方服務的需求。

二、工作制度

1.必須嚴格按照學校上課制度準時上下班。

2.有事不能上課者，必須請假，并提前做好調課工作，報部門和教務處批準。3.教師每講完一次課，應及時進行總結并寫出教學反思。

4.每兩周進行一次教研活動。每個教師應對這兩周的思想、工作和學習情況進行總結匯報。要求教研室人員都必須參加。

三、集體備課制度

1.集體備課是保證及提高教學質量的重要環(huán)節(jié)，也是加快師資培養(yǎng)的重要措施，故必須嚴格執(zhí)行集體備課制度。

2.每個月進行一次集體備課，一般定于每月的第一周。特殊情況可做調整。3.集體備課的形式可以是一位老師主講，也可以是自由討論。4.集體備課內容由教研室負責人執(zhí)筆記錄并存檔。5.集體備課主要內容為

（1）討論教學方法、教學方式和手段等以及在教學中遇到的情況、學生的反映等，及時總結經(jīng)驗教訓。

（2）針對學生比較難懂和難理解的知識點進行學習和討論。（3）討論實踐課的形式和途徑。（4）觀看教學錄像，豐富教學經(jīng)驗。

（5）聘請其它教研室老師指導新教師教學方法和授課技巧。

（6）每學期每名新教師對所授內容都要在教研室范圍內進行一次試講。要求教研室全體人員都必須參加，并提出改進意見。

四、聽課制度

為了豐富教師教學經(jīng)驗，提高教師教學水平、教學質量和教師素質。教研室教師之間應形成觀摩聽課制度，養(yǎng)成觀摩聽課習慣。有關制度制訂如下：

1.每位教師每學期至少聽本專業(yè)課教師講課4次，且應有書面聽課感想和評價。

2.教研室主任不定時的隨時聽課，及時了解教師教學情況，改進教學方法。

五、進一步完善和發(fā)揮教育教學質量監(jiān)控體系的作用。進一步發(fā)揮教學督導組的作用，切實落實各項教學管理制度。從試卷管理、實踐教學和教學計劃執(zhí)行等教學環(huán)節(jié)入手，有重點地檢查各項教學規(guī)章制度落實情況。充分發(fā)揮教學督導員對教學過程、教學質量的督導、監(jiān)控、評價作用。由面上督導深入到點上督導。每學期督導檢查列出重點。解決1~2個突出問題。

六、深化教學改革，提高教學質量。進一步加強教學研究、促進教學改革不斷深化。不斷學習新的教育理論，創(chuàng)新教育方法，堅持理論與實踐相結合，爭取在教學成果獎的評比中，能取得更好的成績。

加強對教學內容、課程體系改革的研究，突出特色，彰顯優(yōu)勢，拓寬基礎，增強學生適應性，培養(yǎng)有特色的人才。采取措施鼓勵學生積極參與科研創(chuàng)新、社會調查、社會實踐、志愿者服務等，提高科學素質和人文素質，著力培養(yǎng)學生的創(chuàng)新精神和社會適應能力。

七、加強實踐教學建設，提高實踐教學水平積極推進實踐教學改革。以提高學生的實踐能力和創(chuàng)新精神為改革目標，加強實踐教學體系與內容的改革。合理設置實踐教學環(huán)節(jié)，保證實踐教學環(huán)節(jié)的教學時數(shù)相對穩(wěn)定。進一步規(guī)范和更新實踐教學內容，建立完善的實踐教學體系。