Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
M
mtbookv2
概览
Overview
Details
Activity
Cycle Analytics
版本库
Repository
Files
Commits
Branches
Tags
Contributors
Graph
Compare
Charts
问题
0
Issues
0
列表
Board
标记
里程碑
合并请求
0
Merge Requests
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
Snippets
成员
Collapse sidebar
Close sidebar
活动
图像
聊天
创建新问题
作业
提交
Issue Boards
Open sidebar
NiuTrans
mtbookv2
Commits
9b66d88c
Commit
9b66d88c
authored
Dec 26, 2020
by
zengxin
Browse files
Options
Browse Files
Download
Plain Diff
合并分支 'zengxin' 到 'caorunzhe'
11 查看合并请求
!711
parents
9358ded0
c18684bb
隐藏空白字符变更
内嵌
并排
正在显示
1 个修改的文件
包含
1 行增加
和
1 行删除
+1
-1
Chapter11/chapter11.tex
+1
-1
没有找到文件。
Chapter11/chapter11.tex
查看文件 @
9b66d88c
...
...
@@ -246,7 +246,7 @@
\item
{
\small\bfnew
{
残差连接
}}
\index
{
残差连接
}
(Residual Connection)
\index
{
Residual Connection
}
:源语言端和目标语言端的卷积层网络之间,都存在一个从输入到输出的额外连接,即跳接
\upcite
{
DBLP:journals/corr/HeZRS15
}
。该连接方式确保每个隐层输出都能包含输入序列中的更多信息,同时能够有效提高深层网络的信息传递效率(该部分在图
\ref
{
fig:11-12
}
中没有显示,具体结构详见
\ref
{
sec:11.2.3
}
节)。
\item
{
\small\bfnew
{
多跳注意力机制
}}
\index
{
多跳注意力机制
}
(Multi-step Attention/Multi-hop Attention)
\index
{
Multi-step Attention
}
\index
{
Multi-hop Attention
}
:蓝色框内部展示了基于多跳结构的注意力机制模块
\upcite
{
Sukhbaatar2015EndToEndMN
}
。ConvS2S模型同样使用注意力机制来捕捉两个序列之间不同位置的对应关系。区别于之前的做法,多跳注意力在解码端每一个层都会执行注意力操作。下面将以此模型为例对基于卷积神经网络的机器翻译模型进行介绍。
\item
{
\small\bfnew
{
多跳注意力机制
}}
\index
{
多跳注意力机制
}
(Multi-step Attention/Multi-hop Attention)
\index
{
Multi-step Attention
}
\index
{
Multi-hop Attention
}
:蓝色框内部展示了基于多跳结构的注意力机制模块
\upcite
{
Sukhbaatar2015EndToEndMN
}
。ConvS2S模型同样使用注意力机制来捕捉两个序列之间不同位置的对应关系。区别于之前的做法,多跳注意力在解码
器
端每一个层都会执行注意力操作。下面将以此模型为例对基于卷积神经网络的机器翻译模型进行介绍。
\end{itemize}
%----------------------------------------------
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论