可以推荐一本关于信息论的通俗好书吗( 二 )



■网友
当然是Thomas Cover的Elements of Information Theory啦。
可以跟着斯坦福EE 376AB来学。
通俗易懂啊。
还有David Luenberger的Information Science,这位是写教材的好手。

■网友
推荐 Thomas Cover 的“Elements of Information Theory”,中文版为《信息论基础》:

信息论基础 (豆瓣)
---

此书特色,由其引言中的下述一段话,可见一斑:

“We all know the feeling that follows when one investigates a problem, goes through a large amount of algebra and finally investigates the answer to find that the entire problem is illuminated, not by the analysis, but by the inspection of the answer.”

■网友
香农原著论文,
《A Mathematical Theory of Communication》
足够了。
点赞这个答案,有空我出一篇这篇论文的导读。

■网友
姜丹的《信息论与编码》。推荐原因:
1.读过Thomas Cover的Elements of Information Theory。两者相比,Thomas的思路跳跃性更强。姜丹老师的书没那么多生活中的例子,但逐步递进,每一节都与上一节有联系,或是减少了一些限制条件,或是场景更加复杂,让你看到信息论如何逐步推广,逐步与现实问题靠近。
2.我中科院硕士,信息论就是姜丹老师教的呀。这本书的作者在讲台上逐步地写着板书,说实话,当时没有很理解信息论与编码。后来考试前复习这本书,似乎能逐渐地回想起他的逻辑,见书如见人,尊敬这些认真授课的教授。

■网友
信息论就没什么好书。
我的经验是你学的时候要结合手上工作,自己建一套物理模型去理解信息论。
你可以用通信模型,密码模型,模式识别模型什么的都可以。一定是个你已经比较熟悉的模型。
然后一边学,一边用信息论去推导你物理模型的信息过程。
这玩意数学比较复杂,但是如果你结合模型理解,结论和思路还是很直观的。
通过模型建立起感性认识,记得要再把数学过程仔细过一遍。

■网友
有本书叫信息简史,还不错。

■网友
通俗的可以看James Gleick的 The Information: A History, a Theory, a Flood,不那么数学而且普通人读起来非常精彩的书,貌似是有中文翻译版。

■网友

Journey into information theory | Computer science | Khan Academy这个短教程作为学习的前期铺垫很OK。


推荐阅读