信息論是運(yùn)用概率論與數(shù)理統(tǒng)計(jì)的方法研究信息傳輸和信息處理系統(tǒng)中一般規(guī)律的新興學(xué)科。核心問(wèn)題是信息傳輸?shù)挠行院涂煽啃砸约皟烧唛g的關(guān)系。

信息論作為一門(mén)科學(xué)理論，發(fā)端于通信工程。它具有廣義和狹義兩個(gè)概念：

狹義信息論是應(yīng)用統(tǒng)計(jì)方法研究通訊系統(tǒng)中信息傳遞和信息處理的共同規(guī)律的科學(xué)，即研究概率性語(yǔ)法信息的科學(xué)；

廣義信息論是應(yīng)用數(shù)學(xué)和其他有關(guān)科學(xué)方法研究一切現(xiàn)實(shí)系統(tǒng)中信息傳遞和處理、信息識(shí)別和利用的共同規(guī)律的科學(xué)，即研究語(yǔ)法信息、語(yǔ)義信息和語(yǔ)用信息的科學(xué)。

信息是事物及其屬性標(biāo)識(shí)的集合

信息就是信息，信息是物質(zhì)、能量、信息及其屬性的標(biāo)示。

信息是確定性的增加。即肯定性的確認(rèn)。

人們對(duì)于信息的認(rèn)識(shí)和利用，可以追溯到古代的通訊實(shí)踐。中國(guó)古代的“烽燧相望”和古羅馬地中海諸城市的“懸燈為號(hào)”，可以說(shuō)是傳遞信息的原始方式。隨著社會(huì)生產(chǎn)的發(fā)展，科學(xué)技術(shù)的進(jìn)步，人們對(duì)傳遞信息的要求急劇增加。到了20世紀(jì)20年代，如何提高傳遞信息的能力和可靠性已成為普遍重視的課題。美國(guó)科學(xué)家N.奈奎斯特、德國(guó)K.屈普夫米勒、前蘇聯(lián)A.H.科爾莫戈羅夫和英國(guó)R.A.賽希爾等人，從不同角度研究信息，為建立信息論作出很大貢獻(xiàn)。1948年，美國(guó)數(shù)學(xué)家C.E.香農(nóng)(被稱(chēng)為是“信息論之父”)出版《通信的數(shù)學(xué)理論》，1949年發(fā)表《噪聲中的通信》，從而奠定了信息論的基礎(chǔ)。20世紀(jì)70年代以后，隨著數(shù)學(xué)計(jì)算機(jī)的廣泛應(yīng)用和社會(huì)信息化的迅速發(fā)展，信息論正逐漸突破香農(nóng)狹義信息論的范圍，發(fā)展為一門(mén)不僅研究語(yǔ)法信息，而且研究語(yǔ)義信息和語(yǔ)用信息的科學(xué)。它的建立是人類(lèi)認(rèn)識(shí)的一個(gè)飛躍。世界上各種事物都是充滿(mǎn)矛盾不斷發(fā)展的，物質(zhì)的運(yùn)動(dòng)主要是靠?jī)?nèi)部矛盾運(yùn)動(dòng)所產(chǎn)生的能量，而事物之間的普遍聯(lián)系則靠的是信息。信息是關(guān)于事物的運(yùn)動(dòng)狀態(tài)和規(guī)律，而信息論的產(chǎn)生與發(fā)展過(guò)程，就是立足于這個(gè)基本性質(zhì)。信息論迅速滲透到各個(gè)不同學(xué)科領(lǐng)域，但還不夠完善。為了適應(yīng)科學(xué)技術(shù)發(fā)展的需要，迎接信息化社會(huì)的到來(lái)，一門(mén)新的科學(xué)正在迅速興起，這就是廣義信息論，或者叫做信息科學(xué)。信息科學(xué)是由信息論、控制論、計(jì)算機(jī)、人工智能和系統(tǒng)論等相互滲透、相互結(jié)合而形成的一門(mén)新興綜合性學(xué)科。信息科學(xué)登上現(xiàn)代科技舞臺(tái)，與能量科學(xué)、材料科學(xué)鼎足而立 ，將為科學(xué)技術(shù)的發(fā)展作出貢獻(xiàn)。

信息論內(nèi)容包括信息熵、信源編碼、信道編碼、信道容量、信息失真率理論、信號(hào)檢測(cè)和估計(jì)等。