Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
M
mtbookv2
概览
Overview
Details
Activity
Cycle Analytics
版本库
Repository
Files
Commits
Branches
Tags
Contributors
Graph
Compare
Charts
问题
0
Issues
0
列表
Board
标记
里程碑
合并请求
0
Merge Requests
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
Snippets
成员
Collapse sidebar
Close sidebar
活动
图像
聊天
创建新问题
作业
提交
Issue Boards
Open sidebar
NiuTrans
mtbookv2
Commits
871c0f51
Commit
871c0f51
authored
Sep 19, 2020
by
zengxin
Browse files
Options
Browse Files
Download
Email Patches
Plain Diff
chapter12
parent
b8348a05
显示空白字符变更
内嵌
并排
正在显示
2 个修改的文件
包含
2 行增加
和
2 行删除
+2
-2
Chapter12/Figures/figure-calculation-of-context-vector-c.tex
+1
-1
Chapter12/chapter12.tex
+1
-1
没有找到文件。
Chapter12/Figures/figure-calculation-of-context-vector-c.tex
查看文件 @
871c0f51
...
...
@@ -28,7 +28,7 @@
\node
[rnode,anchor=south west,fill=green!20!white] (key7) at ([yshift=2em]key2.north west)
{
\scriptsize
{$
h
(
\textrm
{
到
}
)
$}}
;
\node
[rnode,anchor=south west,fill=green!20!white] (key8) at ([yshift=2em]key3.north west)
{
\scriptsize
{$
h
(
\textrm
{
沈阳
}
)
$}}
;
\node
[rnode,anchor=south west,fill=green!20!white] (key9) at ([yshift=2em]key4.north west)
{
\scriptsize
{$
h
(
\textrm
{
机票
}
)
$}}
;
\node
[rnode,anchor=south west] (key10) at ([yshift=2em]key5.north west)
{
\scriptsize
{$
h
(
\textrm
{
``机票''
}
)
$}}
;
\node
[rnode,anchor=south west] (key10) at ([yshift=2em]key5.north west)
{
\scriptsize
{$
h
(
\textrm
{
机票
}
)
$}}
;
\node
[anchor=west] (sep1) at ([xshift=0.3em]key8.east)
{
\scriptsize
{$
\textbf
{
...
}$}}
;
...
...
Chapter12/chapter12.tex
查看文件 @
871c0f51
...
...
@@ -186,7 +186,7 @@
\section
{
位置编码
}
\parinterval
在使用循环神经网络进行序列的信息提取时,每个时刻的运算都要依赖前一个时刻的输出,具有一定的时序性,这也与语言具有顺序的特点相契合。而采用自注意力机制对源语言和目标语言序列进行处理时,直接对当前位置和序列中的任意位置进行建模,忽略了词之间的顺序关系,例如图
\ref
{
fig:12-41
}
中两个语义不同的句子,通过自注意力得到的表示
$
\tilde
{
h
}$
(
“机票”
)却是相同的。
\parinterval
在使用循环神经网络进行序列的信息提取时,每个时刻的运算都要依赖前一个时刻的输出,具有一定的时序性,这也与语言具有顺序的特点相契合。而采用自注意力机制对源语言和目标语言序列进行处理时,直接对当前位置和序列中的任意位置进行建模,忽略了词之间的顺序关系,例如图
\ref
{
fig:12-41
}
中两个语义不同的句子,通过自注意力得到的表示
$
\tilde
{
h
}$
(
机票
)却是相同的。
%----------------------------------------------
\begin{figure}
[htp]
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论