Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
T
Toy-MT-Introduction
概览
Overview
Details
Activity
Cycle Analytics
版本库
Repository
Files
Commits
Branches
Tags
Contributors
Graph
Compare
Charts
问题
0
Issues
0
列表
Board
标记
里程碑
合并请求
0
Merge Requests
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
Snippets
成员
Collapse sidebar
Close sidebar
活动
图像
聊天
创建新问题
作业
提交
Issue Boards
Open sidebar
单韦乔
Toy-MT-Introduction
Commits
b3ffcd6e
Commit
b3ffcd6e
authored
Sep 25, 2019
by
xiaotong
Browse files
Options
Browse Files
Download
Email Patches
Plain Diff
new update
parent
ca239bf0
全部展开
显示空白字符变更
内嵌
并排
正在显示
6 个修改的文件
包含
20 行增加
和
53 行删除
+20
-53
Section01-Introduction/section01.pdf
+0
-0
Section05-Neural-Networks-and-Language-Modeling/Figures/niutensor.jpg
+0
-0
Section05-Neural-Networks-and-Language-Modeling/Figures/tensorflowpytorch.jpg
+0
-0
Section05-Neural-Networks-and-Language-Modeling/section05-test.tex
+20
-53
Section05-Neural-Networks-and-Language-Modeling/section05.tex
+0
-0
tcolorbox.pdf
+0
-0
没有找到文件。
Section01-Introduction/section01.pdf
deleted
100644 → 0
查看文件 @
ca239bf0
File deleted
Section05-Neural-Networks-and-Language-Modeling/Figures/niutensor.jpg
0 → 100644
查看文件 @
b3ffcd6e
87.4 KB
Section05-Neural-Networks-and-Language-Modeling/Figures/tensorflowpytorch.jpg
0 → 100644
查看文件 @
b3ffcd6e
83.7 KB
Section05-Neural-Networks-and-Language-Modeling/section05-test.tex
查看文件 @
b3ffcd6e
...
...
@@ -20,6 +20,9 @@
\usepackage
{
subfigure
}
\usepackage
{
tikz-3dplot
}
\usepackage
{
tcolorbox
}
\tcbuselibrary
{
skins
}
\usetikzlibrary
{
matrix
}
\usetikzlibrary
{
arrows,decorations.pathreplacing
}
\usetikzlibrary
{
shadows
}
% LATEX and plain TEX when using Tik Z
...
...
@@ -111,70 +114,34 @@
\newcounter
{
mycount3
}
\newcounter
{
mycount4
}
%%%------------------------------------------------------------------------------------------------------------
%%%
张量的单元操作
\begin{frame}
{
张量的单元操作
}
%%%
定义XTensor
\begin{frame}
{
定义XTensor
}
\begin{itemize}
\item
神经网络
$
\textbf
{
y
}
=
f
(
\textbf
{
x
}
\cdot
\textbf
{
w
}
+
\textbf
{
b
}
)
$
也包括一些张量的单元操作(element-wise opertation)
\item
NiuTensor张量由类XTensor定义
\begin{itemize}
\item
加法:
$
\textbf
{
s
}
+
\textbf
{
b
}$
,其中
$
\textbf
{
s
}
=
\textbf
{
x
}
\cdot
\textbf
{
w
}$
\item
激活函数:
$
f
(
\cdot
)
$
\end{itemize}
\item
<2->
\textbf
{
单元加
}
就是对张量中的每个位置都进行加法
\begin{itemize}
\item
一般要求两个张量的形状是一样的
\item
<3-> 不过,这里可以使用加法的
\textbf
{
广播
}
,重复利用一个张量进行加法,并不要求两个张量形状相同
\item
\textbf
{
必须指定
}
:张量的阶和各个方向维度的大小,关于维度的约定和传统多维数组一样
\item
\textbf
{
可以指定
}
:张量数据类型、稠密程度等等
\end{itemize}
\end{itemize}
\vspace
{
-1.5em
}
\begin{center}
\begin{tikzpicture}
\visible
<3->
{
\begin{scope}
\setcounter
{
mycount1
}{
1
}
\draw
[step=0.5cm,color=orange,thick]
(-1,-0.5) grid (1,0.5);
\foreach
\y
in
{
+0.25,-0.25
}
\foreach
\x
in
{
-0.75,-0.25,0.25,0.75
}{
\node
[fill=orange!20,inner sep=0pt,minimum height=0.49cm,minimum width=0.49cm] at (
\x
,
\y
)
{
\number\value
{
mycount1
}}
;
\addtocounter
{
mycount1
}{
1
}
;
}
\node
[anchor=south] (varlabel) at (0,0.6)
{$
\textbf
{
s
}$}
;
\end{scope}
\begin{scope}
[xshift=1.5in]
\setcounter
{
mycount1
}{
1
}
\draw
[step=0.5cm,color=ugreen,thick]
(-1,-0) grid (1,0.5);
\foreach
\y
in
{
+0.25
}
\foreach
\x
in
{
-0.75,-0.25,0.25,0.75
}{
\node
[fill=green!20,inner sep=0pt,minimum height=0.49cm,minimum width=0.49cm] at (
\x
,
\y
)
{
1
}
;
\addtocounter
{
mycount1
}{
1
}
;
}
\node
[anchor=center] (plabel) at (-4.5em,0)
{
\huge
{
\textbf
{$
+
$}}}
;
\node
[anchor=south] (varlabel) at (0,0.6)
{$
\textbf
{
b
}$}
;
\end{scope}
\begin{scope}
[xshift=3in]
\setcounter
{
mycount1
}{
2
}
\draw
[step=0.5cm,color=orange,thick]
(-1,-0.5) grid (1,0.5);
\foreach
\y
in
{
+0.25,-0.25
}
\foreach
\x
in
{
-0.75,-0.25,0.25,0.75
}{
\node
[fill=orange!20,inner sep=0pt,minimum height=0.49cm,minimum width=0.49cm] at (
\x
,
\y
)
{
\number\value
{
mycount1
}}
;
\addtocounter
{
mycount1
}{
1
}
;
}
\node
[anchor=center] (plabel) at (-4.5em,0)
{
\huge
{
\textbf
{$
=
$}}}
;
\node
[anchor=south] (varlabel) at (0,0.6)
{$
\textbf
{
s
+
b
}$}
;
\end{scope}
}
\begin{tcolorbox}
[enhanced,frame engine=empty,boxrule=0.1mm,size=title,colback=blue!10!white]
\begin{flushleft}
{
\scriptsize
\begin{tabbing}
\
end{tikzpicture}
\
end{center}
\
texttt
{
XTensor tensor;
}
\hspace
{
12em
}
\=
// 声明张量tensor
\\
\
texttt
{
int sizes[3] =
\{
2,3,4
\}
;
}
\>
// 张量的形状为2*3*4
\\
\begin{itemize}
\item
<4-> 类似的,我们可以对所有位置做加法、乘法等等一系列算数操作,也包括激活函数
\end{itemize}
\texttt
{
InitTensor(
\&
tensor, 3, sizes, X
\_
FLOAT);
}
\>
// 定义形状为sizes的三阶张量
\end{tabbing}
}
\end{flushleft}
\end{tcolorbox}
\end{frame}
%%%------------------------------------------------------------------------------------------------------------
\subsection
{
参数学习 - 反向传播
}
...
...
Section05-Neural-Networks-and-Language-Modeling/section05.tex
查看文件 @
b3ffcd6e
差异被折叠。
点击展开。
tcolorbox.pdf
0 → 100644
查看文件 @
b3ffcd6e
File added
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论