對于信息與熵的認識及其應用

闡述熵和信息之間關系。

第16卷總第46期統計與信息論壇May,2001

2001年5月Statistics&InformationTribuneVol.16No.3

統計理論與方法

對于信息與熵的認識及其應用

白雪梅1,趙松山2

(1 東北財經大學統計系;2 數量經濟系,遼寧大連 116205)

摘 要:文章首先剖析了信息概念,指出信息與消息、信號、知識、情報及數據的區別與聯系;其次,揭示了熵與信息的關系,并給出熵的計算公式;最后介紹了信息與熵在決策和相關分析中的應用。

關鍵詞:信息;概率;熵;信息量

中圖分類號:O236文獻標識碼:A文章編號:1007-3116(2001)03-0007-06

一、信息的概念

在現代社會里,物質、能源、信息是構筑現代社會大廈的三大支柱。物質是構筑社會的基礎,能源是構筑社會的動力,而信息則是構筑社會的神經系統。隨著社會主義市場經濟體制的建立,人們越來越多地關注信息對物質生產和人們生活所起的重大作用,并將信息視為人類的智力資源。信息這個詞已成為日常用語,并被各學科竟相爭用。但什么是信息?信息與消息,信息與知識,信息與信號,信息與情報,信息與數據,有什么區別與聯系?卻往往不易說清楚,為此,我們先討論一下有關信息概念。

我國最早使用信息一詞,始于!三國志 ,其中說到諸葛恪圍合肥新城,城中遣士劉整出圍傳遞消息,王子儉期曰:#正數欲來,信息甚大。 唐代詩人李中在#碧云集 中,有#夢斷美人沉信息,目空長路倚樓臺 之句,這些都是把信息當作消息來使用。多少年來,中外都是這樣理解和應用的。其實,消息不等于信息,我們聽到一條消息,可能是我們已經知道的或已經肯定的,也可能是我們預先不知道的或不十分肯定的,而前者是消息,后者才是信息。可見,信息是指有新內容、有價值的消息,信息是消息中不確定性的排除。

信號也不等于信息,信號是信息的載體,它可以傳遞信息,但信號本身并非信息。另外,信息不等同于知識,也不等同于情報,但信息是所有知識的來源。信息作為資源,未必都有用,只有把各種有用的信息進行系統地組織,才能成為知識。而這些知識經過反復實踐、完善、提高,才形成科學知識。同樣,只有將那些符合某種需要的有用信息經過組織加工才能成為情報。

數據與信息也是兩個不同的概念,不能混為一談。兩者的聯系是:有意義、有價值的數據

收稿日期:2000-12-22

作者簡介:白雪梅(1949-),女,遼寧沈陽人,教授,博士生導師。研究方向:經濟統計和地區經濟發展比較。

趙松山(1945-),男,遼寧人,教授,碩士生導師。研究方向:經濟系統工程和經濟計量學。

%7%

對于信息與熵的認識及其應用相關文檔

最新文檔

返回頂部
彩票数字0至9规律技巧