Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
M
mtbookv2
概览
Overview
Details
Activity
Cycle Analytics
版本库
Repository
Files
Commits
Branches
Tags
Contributors
Graph
Compare
Charts
问题
0
Issues
0
列表
Board
标记
里程碑
合并请求
0
Merge Requests
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
Snippets
成员
Collapse sidebar
Close sidebar
活动
图像
聊天
创建新问题
作业
提交
Issue Boards
Open sidebar
NiuTrans
mtbookv2
Commits
37355453
Commit
37355453
authored
Apr 27, 2021
by
单韦乔
Browse files
Options
Browse Files
Download
Email Patches
Plain Diff
信息熵举例修正
parent
33ae5102
隐藏空白字符变更
内嵌
并排
正在显示
1 个修改的文件
包含
1 行增加
和
1 行删除
+1
-1
Chapter2/chapter2.tex
+1
-1
没有找到文件。
Chapter2/chapter2.tex
查看文件 @
37355453
...
...
@@ -258,7 +258,7 @@ F(x)=\int_{-\infty}^x f(x)\textrm{d}x
\label
{
eq:2-14
}
\end{eqnarray}
\parinterval
一个分布的信息熵也就是从该分布中得到的一个事件的期望信息量。比如,
$
a
$
、
$
b
$
、
$
c
$
、
$
d
$
四支球队,四支队伍夺冠的概率分别是
$
\funp
{
P
}_
1
$
、
$
\funp
{
P
}_
2
$
、
$
\funp
{
P
}_
3
$
、
$
\funp
{
P
}_
4
$
,
某个人对比赛不感兴趣但是又想知道哪只球队夺冠,使用2次二分法就能确定哪支球队夺冠了。但假设这四只球队中
$
c
$
的实力可以碾压其他球队,那么猜1次就可以确定。所以对于前面这种情况,哪只球队夺冠
的信息量较高,信息熵也相对较高;对于后面这种情况,因为结果是容易猜到的,信息量和信息熵也就相对较低。因此可以得知:分布越尖锐熵越低,分布越均匀熵越高。
\parinterval
一个分布的信息熵也就是从该分布中得到的一个事件的期望信息量。比如,
$
a
$
、
$
b
$
、
$
c
$
、
$
d
$
四支球队,四支队伍夺冠的概率分别是
$
\funp
{
P
}_
1
$
、
$
\funp
{
P
}_
2
$
、
$
\funp
{
P
}_
3
$
、
$
\funp
{
P
}_
4
$
,
假设四只队伍的实力未知或者实力相当,那么人们就很难对比赛结果做出预测。但是,如果这四只球队中某一支球队的实力可以碾压其他球队,那么人们对比赛结果的预测就会很明确。所以对于前面这种情况,预测球队夺冠的问题
的信息量较高,信息熵也相对较高;对于后面这种情况,因为结果是容易猜到的,信息量和信息熵也就相对较低。因此可以得知:分布越尖锐熵越低,分布越均匀熵越高。
%----------------------------------------------------------------------------------------
% NEW SUBSUB-SECTION
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论