学“信息论”

为什么需要了解信息论？

人们从远古时代、农耕时代、封建时代慢慢到现在的信息时代，不同时代都有各自时代的特征；那我们今天生活的信息时代的主要特征是什么？信息时代最大的特征就是不确定性；如何衡量信息的不确定性？就是信息论需要告知我们的信息；

衡量单位物体重量的单位是质量，衡量数据的单位是数量，那么衡量信息的单位是什么呢？1948年，香农在他的香农定律里面告诉我们，衡量信息的单位就是：消除信息需要的不确定性信息就是信息单位；并且他给出了一个度量信息的基本单位，就是“比特“；如果一个黑盒子中有A和B两种可能性，他们出现的概率相同，那么要搞清楚到底是A还是B，所需要的信息量就是一比特；盒子里面的不确定性叫信息源，里面的不确定性叫信息熵；对待一个事情，知道的信息越多，信息熵就越低，反之毅然；

所以生活当中的那些建议百分之50的概念，从信息论的角度来看相当于没有说，没有提供有效的信息量；同样信息具有一定的冗余度，这样为了方便传播和理解；同时为了提高信息的准确性，可以通过信息不同纬度正交进行评估；比如炒股的都知道：“今天股票涨了，早知道我该在当时购买“，而实际上这个假如放在更长的时间纬度和更大的空间的纬度，就会是另外一个判断标准；

信息的传播：

信息的传播中会有各种各样的噪音，有的时候甚至噪音会淹没掉信息本身，如何能够更好的将信息传播出去？首先我们要接受一个现实：世界是不完美的，真实世界是不完美的，在不完美的世界进行信息的传播；通常有几种做法：

信息信道容量有限，减少信息传播的容量；保证每次都能够有效输出，老师教学生，通常也不会一次性把某一学期的课程一次性全部授课给学生，而是循环渐进的方式，这个就是通过减少信道容量增加传输信息的一种方式；传输信息的时候，根据不同的受众，用不同的方式去进行表达；不同人之间的交流，要建立在彼此平等的基础之上进行沟通；

信息论的作用？

生活中的一些问题，可以转化为一个信息问题，然后用科学的方式去做解答；并进行交叉验证；目前传统行业转型到Iot，同样可以转化为了增加数据量减少信息的不确定性，辅助做更好的商业决策；同样做投资的的时候，运用信息统计知识，可以提高投资成功的比例会大大增加；

信息的作用不仅取决于传播者，也取决于收听者，同样一封信息，对你和和朋友的信息量的大小是一样的吗？「悲惨世界」的中文和英文版本也会同；同样生活当中无时无刻都会充斥着各种各样的信息，如何讲话？如何倾听，如何选择？带着信息的角度，会多一份理性；

参考文章：

http://www.ruanyifeng.com/blog/2019/08/information-theory.html

得到专栏【吴军.信息论】