Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
T
Toy-MT-Introduction
概览
Overview
Details
Activity
Cycle Analytics
版本库
Repository
Files
Commits
Branches
Tags
Contributors
Graph
Compare
Charts
问题
0
Issues
0
列表
Board
标记
里程碑
合并请求
0
Merge Requests
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
Snippets
成员
Collapse sidebar
Close sidebar
活动
图像
聊天
创建新问题
作业
提交
Issue Boards
Open sidebar
NiuTrans
Toy-MT-Introduction
Commits
b043e926
Commit
b043e926
authored
May 21, 2020
by
zengxin
Browse files
Options
Browse Files
Download
Email Patches
Plain Diff
第七章内容
parent
27606f60
隐藏空白字符变更
内嵌
并排
正在显示
1 个修改的文件
包含
1 行增加
和
1 行删除
+1
-1
Book/Chapter7/Chapter7.tex
+1
-1
没有找到文件。
Book/Chapter7/Chapter7.tex
查看文件 @
b043e926
...
@@ -994,7 +994,7 @@ y_{j}^{ls}=(1-\alpha) \cdot \tilde{y}_j + \alpha \cdot q
...
@@ -994,7 +994,7 @@ y_{j}^{ls}=(1-\alpha) \cdot \tilde{y}_j + \alpha \cdot q
\noindent
即译文单词
$
y
_
j
$
依赖前面已经生成的单词
$
\mathbf
{
y
}_{
<j
}
=
\{
y
_
1
,...,y
_{
j
-
1
}
\}
$
和源语言句子
$
\mathbf
{
x
}$
。显然,这个模型中,每一个目标语位置
$
j
$
都需要等待前面
$
j
-
1
$
个位置输出的结果。因此,自回归翻译会阻碍不同译文单词生成的并行化。特别是在GPU上,翻译的自回归性会大大降低计算的并行度,导致推断过程的效率不高。
\noindent
即译文单词
$
y
_
j
$
依赖前面已经生成的单词
$
\mathbf
{
y
}_{
<j
}
=
\{
y
_
1
,...,y
_{
j
-
1
}
\}
$
和源语言句子
$
\mathbf
{
x
}$
。显然,这个模型中,每一个目标语位置
$
j
$
都需要等待前面
$
j
-
1
$
个位置输出的结果。因此,自回归翻译会阻碍不同译文单词生成的并行化。特别是在GPU上,翻译的自回归性会大大降低计算的并行度,导致推断过程的效率不高。
\parinterval
对于这个问题,研究者也考虑移除翻译的自归回性
\cite
{
Gu2017NonAutoregressiveNM
}
,进行
{
\small\bfnew
{
非自回归翻译
}}
\index
{
非自回归翻译
}
(
Regressive Translation)
\index
{
R
egressive Translation
}
。非自回归翻译可以用如下公式描述:
\parinterval
对于这个问题,研究者也考虑移除翻译的自归回性
\cite
{
Gu2017NonAutoregressiveNM
}
,进行
{
\small\bfnew
{
非自回归翻译
}}
\index
{
非自回归翻译
}
(
Non-Autoregressive Translation)
\index
{
Non-Autor
egressive Translation
}
。非自回归翻译可以用如下公式描述:
\begin{eqnarray}
\begin{eqnarray}
\textrm
{
P
}
(
\mathbf
{
y
}
|
\mathbf
{
x
}
) =
\prod
_{
j=1
}^{
n
}
\textrm
{
P
}
(y
_
j|
\mathbf
{
x
}
)
\textrm
{
P
}
(
\mathbf
{
y
}
|
\mathbf
{
x
}
) =
\prod
_{
j=1
}^{
n
}
\textrm
{
P
}
(y
_
j|
\mathbf
{
x
}
)
\label
{
eq:7-7
}
\label
{
eq:7-7
}
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论