Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
M
mtbookv2
概览
Overview
Details
Activity
Cycle Analytics
版本库
Repository
Files
Commits
Branches
Tags
Contributors
Graph
Compare
Charts
问题
0
Issues
0
列表
Board
标记
里程碑
合并请求
0
Merge Requests
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
Snippets
成员
Collapse sidebar
Close sidebar
活动
图像
聊天
创建新问题
作业
提交
Issue Boards
Open sidebar
NiuTrans
mtbookv2
Commits
e64542c2
Commit
e64542c2
authored
Jan 11, 2021
by
zengxin
Browse files
Options
Browse Files
Download
Email Patches
Plain Diff
append
parent
83531175
隐藏空白字符变更
内嵌
并排
正在显示
1 个修改的文件
包含
6 行增加
和
6 行删除
+6
-6
ChapterAppend/chapterappend.tex
+6
-6
没有找到文件。
ChapterAppend/chapterappend.tex
查看文件 @
e64542c2
...
...
@@ -300,19 +300,19 @@ c(s_u|t_v,\seq{s},\seq{t}) &\approx & \sum_{\seq{a} \in S}\big[\funp{P}_{\theta}
\parinterval
可以以同样的方式修改公式
\eqref
{
eq:1.3
}
-
\eqref
{
eq:1.6
}
的修改结果。进一步,在IBM模型3中,可以定义
$
S
$
如下:
\begin{eqnarray}
S
&
=
&
N(b
^{
\infty
}
(V(
\seq
{
s
}
|
\seq
{
t
}
;2)))
\cup
(
\mathop
{
\cup
}
\limits
_{
ij
}
N(b
_{
i
\leftrightarrow
j
}^{
\infty
}
(V
_{
i
\leftrightarrow
j
}
(
\seq
{
s
}
|
\seq
{
t
}
,
2))))
S
&
=
&
N(b
^{
\infty
}
(V(
\seq
{
s
}
|
\seq
{
t
}
;2)))
\cup
(
\mathop
{
\cup
}
\limits
_{
ij
}
N(b
_{
i
\leftrightarrow
j
}^{
\infty
}
(V
_{
i
\leftrightarrow
j
}
(
\seq
{
s
}
|
\seq
{
t
}
;
2))))
\label
{
eq:1.12
}
\end{eqnarray}
\parinterval
为了理解这个公式,先介绍几个概念。
\begin{itemize}
\item
$
V
(
\seq
{
s
}
|
\seq
{
t
}
)
$
表示Viterbi词对齐,
$
V
(
\seq
{
s
}
|
\seq
{
t
}
,
1
)
$
、
$
V
(
\seq
{
s
}
|
\seq
{
t
}
,
2
)
$
和
$
V
(
\seq
{
s
}
|
\seq
{
t
}
,
3
)
$
就分别对应了模型1、2 和3 的Viterbi 词对齐;
\item
把那些满足第
$
j
$
个源语言单词对应第
$
i
$
个目标语言单词(
$
a
_
j
=
i
$
)的词对齐构成的集合记为
$
\seq
{
a
}_{
i
\leftrightarrow
j
}
(
\seq
{
s
}
,
\seq
{
t
}
)
$
。通常称这些对齐中
$
j
$
和
$
i
$
被``钉''在了一起。在
$
\seq
{
a
}_{
i
\leftrightarrow
j
}
(
\seq
{
s
}
,
\seq
{
t
}
)
$
中使
$
\funp
{
P
}
(
\seq
{
a
}
|
\seq
{
s
}
,
\seq
{
t
}
)
$
达到最大的那个词对齐被记为
$
V
_{
i
\leftrightarrow
j
}
(
\seq
{
s
}
|
\seq
{
t
}
)
$
;
\item
$
V
(
\seq
{
s
}
|
\seq
{
t
}
)
$
表示Viterbi词对齐,
$
V
(
\seq
{
s
}
|
\seq
{
t
}
;
1
)
$
、
$
V
(
\seq
{
s
}
|
\seq
{
t
}
;
2
)
$
和
$
V
(
\seq
{
s
}
|
\seq
{
t
}
;
3
)
$
就分别对应了模型1、2 和3 的Viterbi 词对齐;
\item
把那些满足第
$
j
$
个源语言单词对应第
$
i
$
个目标语言单词(
$
a
_
j
=
i
$
)的词对齐构成的集合记为
$
\seq
{
a
}_{
i
\leftrightarrow
j
}
(
\seq
{
s
}
,
\seq
{
t
}
)
$
。通常称这些对齐中
$
j
$
和
$
i
$
被``钉''在了一起。在
$
\seq
{
a
}_{
i
\leftrightarrow
j
}
(
\seq
{
s
}
,
\seq
{
t
}
)
$
中使
$
\funp
{
P
}
(
\seq
{
s
}
,
\seq
{
a
}
|
\seq
{
t
}
)
$
达到最大的那个词对齐被记为
$
V
_{
i
\leftrightarrow
j
}
(
\seq
{
s
}
|
\seq
{
t
}
)
$
;
\item
如果两个词对齐,通过交换两个词对齐连接就能互相转化,则称它们为邻居。一个词对齐
$
\seq
{
a
}$
的所有邻居记为
$
N
(
\seq
{
a
}
)
$
。
\end{itemize}
\vspace
{
0.5em
}
\parinterval
公式
\eqref
{
eq:1.12
}
中,
$
b
^{
\infty
}
(
V
(
\seq
{
s
}
|
\seq
{
t
}
;
2
))
$
和
$
b
_{
i
\leftrightarrow
j
}^{
\infty
}
(
V
_{
i
\leftrightarrow
j
}
(
\seq
{
s
}
|
\seq
{
t
}
,
2
))
$
分别是对
$
V
(
\seq
{
s
}
|
\seq
{
t
}
;
3
)
$
和
$
V
_{
i
\leftrightarrow
j
}
(
\seq
{
s
}
|
\seq
{
t
}
,
3
)
$
的估计。在计算
$
S
$
的过程中,需要知道一个对齐
$
\seq
{
a
}$
的邻居
$
\seq
{
a
}
'
$
的概率,即通过
$
\funp
{
P
}_{
\theta
}
(
\seq
{
a
}
,
\seq
{
s
}
|
\seq
{
t
}
)
$
计算
$
\funp
{
P
}_{
\theta
}
(
\seq
{
a
}
',
\seq
{
s
}
|
\seq
{
t
}
)
$
。在模型3中,如果
$
\seq
{
a
}$
和
$
\seq
{
a
}
'
$
仅区别于某个源语言单词
$
s
_
j
$
对齐从
$
a
_
j
$
变到
$
a
_{
j
}
'
$
,且
$
a
_
j
$
和
$
a'
_
j
$
均不为零,令
$
a
_
j
=
i
$
,
$
a'
_{
j
}
=
i'
$
,那么
\parinterval
公式
\eqref
{
eq:1.12
}
中,
$
b
^{
\infty
}
(
V
(
\seq
{
s
}
|
\seq
{
t
}
;
2
))
$
和
$
b
_{
i
\leftrightarrow
j
}^{
\infty
}
(
V
_{
i
\leftrightarrow
j
}
(
\seq
{
s
}
|
\seq
{
t
}
;
2
))
$
分别是对
$
V
(
\seq
{
s
}
|
\seq
{
t
}
;
3
)
$
和
$
V
_{
i
\leftrightarrow
j
}
(
\seq
{
s
}
|
\seq
{
t
}
;
3
)
$
的估计。在计算
$
S
$
的过程中,需要知道一个对齐
$
\seq
{
a
}$
的邻居
$
\seq
{
a
}
'
$
的概率,即通过
$
\funp
{
P
}_{
\theta
}
(
\seq
{
a
}
,
\seq
{
s
}
|
\seq
{
t
}
)
$
计算
$
\funp
{
P
}_{
\theta
}
(
\seq
{
a
}
',
\seq
{
s
}
|
\seq
{
t
}
)
$
。在模型3中,如果
$
\seq
{
a
}$
和
$
\seq
{
a
}
'
$
仅区别于某个源语言单词
$
s
_
j
$
对齐从
$
a
_
j
$
变到
$
a
_{
j
}
'
$
,且
$
a
_
j
$
和
$
a'
_
j
$
均不为零,令
$
a
_
j
=
i
$
,
$
a'
_{
j
}
=
i'
$
,那么
\begin{eqnarray}
\funp
{
P
}_{
\theta
}
(
\seq
{
a
}
',
\seq
{
s
}
|
\seq
{
t
}
)
&
=
&
\funp
{
P
}_{
\theta
}
(
\seq
{
a
}
,
\seq
{
s
}
|
\seq
{
t
}
)
\cdot
\nonumber
\\
...
...
@@ -381,7 +381,7 @@ z_{>1}(\Delta_j|cb;\seq{a},\seq{s},\seq{t}) & = & \sum_{i=1}^l \big[\varepsilon(
\parinterval
模型4 需要像模型3 一样,通过定义一个词对齐集合
$
S
$
,使得每次训练迭代都在
$
S
$
上进行,进而降低运算量。模型4 中
$
S
$
的定义为:
\begin{eqnarray}
S
&
=
&
N(
\tilde
{
b
}^{
\infty
}
(V(
\seq
{
s
}
|
\seq
{
t
}
;2)))
\cup
(
\mathop
{
\cup
}
\limits
_{
ij
}
N(
\tilde
{
b
}_{
i
\leftrightarrow
j
}^{
\infty
}
(V
_{
i
\leftrightarrow
j
}
(
\seq
{
s
}
|
\seq
{
t
}
,
2))))
S
&
=
&
N(
\tilde
{
b
}^{
\infty
}
(V(
\seq
{
s
}
|
\seq
{
t
}
;2)))
\cup
(
\mathop
{
\cup
}
\limits
_{
ij
}
N(
\tilde
{
b
}_{
i
\leftrightarrow
j
}^{
\infty
}
(V
_{
i
\leftrightarrow
j
}
(
\seq
{
s
}
|
\seq
{
t
}
;
2))))
\label
{
eq:1.22
}
\end{eqnarray}
...
...
@@ -435,7 +435,7 @@ z_{>1}(\Delta_j|cb,v;\seq{a},\seq{s},\seq{t}) & = & \sum_{i=1}^l\Big[\varepsilon
\parinterval
在模型5中同样需要定义一个词对齐集合
$
S
$
,使得每次迭代都在
$
S
$
上进行。可以对
$
S
$
进行如下定义
\begin{eqnarray}
S
&
=
&
N(
\tilde
{
\tilde
{
b
}}^{
\infty
}
(V(
\seq
{
s
}
|
\seq
{
t
}
;2)))
\cup
(
\mathop
{
\cup
}
\limits
_{
ij
}
N(
\tilde
{
\tilde
{
b
}}_{
i
\leftrightarrow
j
}^{
\infty
}
(V
_{
i
\leftrightarrow
j
}
(
\seq
{
s
}
|
\seq
{
t
}
,
2))))
S
&
=
&
N(
\tilde
{
\tilde
{
b
}}^{
\infty
}
(V(
\seq
{
s
}
|
\seq
{
t
}
;2)))
\cup
(
\mathop
{
\cup
}
\limits
_{
ij
}
N(
\tilde
{
\tilde
{
b
}}_{
i
\leftrightarrow
j
}^{
\infty
}
(V
_{
i
\leftrightarrow
j
}
(
\seq
{
s
}
|
\seq
{
t
}
;
2))))
\label
{
eq:1.29
}
\end{eqnarray}
\vspace
{
0.5em
}
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论