Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
M
mtbookv2
概览
Overview
Details
Activity
Cycle Analytics
版本库
Repository
Files
Commits
Branches
Tags
Contributors
Graph
Compare
Charts
问题
0
Issues
0
列表
Board
标记
里程碑
合并请求
0
Merge Requests
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
Snippets
成员
Collapse sidebar
Close sidebar
活动
图像
聊天
创建新问题
作业
提交
Issue Boards
Open sidebar
NiuTrans
mtbookv2
Commits
c9ee39f5
Commit
c9ee39f5
authored
Sep 23, 2020
by
孟霞
Browse files
Options
Browse Files
Download
Email Patches
Plain Diff
更新 chapter3.tex,公式问题
parent
47e785b3
显示空白字符变更
内嵌
并排
正在显示
1 个修改的文件
包含
4 行增加
和
4 行删除
+4
-4
Chapter3/chapter3.tex
+4
-4
没有找到文件。
Chapter3/chapter3.tex
查看文件 @
c9ee39f5
...
...
@@ -467,23 +467,23 @@ $计算这种切分的概率值。
\parinterval
上述现象也被称作
{
\small\bfnew
{
标注偏置
}}
\index
{
标注偏置
}
(Label Bias)
\index
{
Label Bias
}
。条件随机场模型在隐马尔可夫模型的基础上,解决了这个问题
\upcite
{
lafferty2001conditional
}
。在条件随机场模型中,以全局范围的统计归一化代替了隐马尔可夫模型中的局部归一化。除此之外,条件随机场模型中并非使用概率计算而是特征函数的方式对可见状态序列
$
\seq
{
X
}$
对应的隐含状态序列
$
\seq
{
Y
}$
的概率进行计算。
\parinterval
条件随机场中一般有若干个特征函数,都是经过设计的、能够反映序列规律的一些二元函数
\footnote
{
二元函数的函数值一般非1即0
}
,并且每个特征函数都有其对应的权重
$
\lambda
$
。特征函数一般由两部分组成:能够反映隐含状态序列之间转移规则的转移特征
$
t
(
y
_{
i
-
1
}
,y
_
i,
\seq
{
X
}
,i
)
$
和状态特征
$
s
(
y
_
i,
\seq
{
X
}
,i
)
$
。其中
$
y
_
i
$
和
$
y
_{
i
-
1
}$
分别是位置
$
i
$
和前一个位置的隐含状态,
$
\seq
{
X
}$
则是可见状态序列。转移特征
$
t
(
y
_{
i
-
1
}
,y
_
i,
\seq
{
X
}
,i
)
$
反映了两个相邻的隐含状态之间的转换关系,而状态特征
$
s
(
y
_
i,
\seq
{
X
}
,i
)
$
则反映了第
$
i
$
个可见状态应该对应什么样的隐含状态,这两部分共同组成了一个特征函数
$
F
(
y
_{
i
-
1
}
,y
_
i,
\seq
{
X
}
)
$
,即
\parinterval
条件随机场中一般有若干个特征函数,都是经过设计的、能够反映序列规律的一些二元函数
\footnote
{
二元函数的函数值一般非1即0
}
,并且每个特征函数都有其对应的权重
$
\lambda
$
。特征函数一般由两部分组成:能够反映隐含状态序列之间转移规则的转移特征
$
t
(
y
_{
i
-
1
}
,y
_
i,
\seq
{
X
}
,i
)
$
和状态特征
$
s
(
y
_
i,
\seq
{
X
}
,i
)
$
。其中
$
y
_
i
$
和
$
y
_{
i
-
1
}$
分别是位置
$
i
$
和前一个位置的隐含状态,
$
\seq
{
X
}$
则是可见状态序列。转移特征
$
t
(
y
_{
i
-
1
}
,y
_
i,
\seq
{
X
}
,i
)
$
反映了两个相邻的隐含状态之间的转换关系,而状态特征
$
s
(
y
_
i,
\seq
{
X
}
,i
)
$
则反映了第
$
i
$
个可见状态应该对应什么样的隐含状态,这两部分共同组成了一个特征函数
$
F
(
y
_{
i
-
1
}
,y
_
i,
\seq
{
X
}
,i
)
$
,即
\begin{eqnarray}
F(y
_{
i-1
}
,y
_
i,
\seq
{
X
}
)
&
=
&
t(y
_{
i-1
}
,y
_
i,
\seq
{
X
}
,i)+s(y
_
i,
\seq
{
X
}
,i)
F(y
_{
i-1
}
,y
_
i,
\seq
{
X
}
,i
)
&
=
&
t(y
_{
i-1
}
,y
_
i,
\seq
{
X
}
,i)+s(y
_
i,
\seq
{
X
}
,i)
\label
{
eq:3.3-8
}
\end{eqnarray}
\parinterval
实际上,基于特征函数的方法更像是对隐含状态序列的一种打分:根据人为设计的模板(特征函数),测试隐含状态之间的转换以及隐含状态与可见状态之间的对应关系是否符合这种模板。在处理序列问题时,假设可见状态序列
$
\seq
{
X
}$
的长度和待预测隐含状态序列
$
\seq
{
Y
}$
的长度均为
$
m
$
,且共设计了
$
k
$
个特征函数,则有:
\begin{eqnarray}
\funp
{
P
}
(
\seq
{
Y
}
|
\seq
{
X
}
)
&
=
&
\frac
{
1
}{
Z(
\seq
{
X
}
)
}
\exp
(
\sum
_{
i=1
}^
m
\sum
_{
j=1
}^{
k
}
\lambda
_{
j
}
F
_{
j
}
(y
_{
i-1
}
,y
_
i,
x
,i))
\funp
{
P
}
(
\seq
{
Y
}
|
\seq
{
X
}
)
&
=
&
\frac
{
1
}{
Z(
\seq
{
X
}
)
}
\exp
(
\sum
_{
i=1
}^
m
\sum
_{
j=1
}^{
k
}
\lambda
_{
j
}
F
_{
j
}
(y
_{
i-1
}
,y
_
i,
\seq
{
X
}
,i))
\label
{
eq:3.3-9
}
\end{eqnarray}
\parinterval
公式(
\eqref
{
eq:3.3-9
}
)中的
$
Z
(
X
)
$
即为上面提到的实现全局统计归一化的归一化因子,其计算方式为:
\begin{eqnarray}
Z(
\seq
{
X
}
)=
\sum
_{
\seq
{
Y
}}
\exp
(
\sum
_{
i=1
}^
m
\sum
_{
j=1
}^
k
\lambda
_{
j
}
F
_{
j
}
(y
_{
i-1
}
,y
_
i,
x
,i))
Z(
\seq
{
X
}
)=
\sum
_{
\seq
{
Y
}}
\exp
(
\sum
_{
i=1
}^
m
\sum
_{
j=1
}^
k
\lambda
_{
j
}
F
_{
j
}
(y
_{
i-1
}
,y
_
i,
\seq
{
X
}
,i))
\label
{
eq:3.3-10
}
\end{eqnarray}
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论