new update

Section05-Neural-Networks-and-Language-Modeling/section05-test.tex

@@ -116,15 +116,35 @@
 \section{神经语言模型}
 \section{神经语言模型}
 
 
 %%%------------------------------------------------------------------------------------------------------------
 %%%------------------------------------------------------------------------------------------------------------
-\subsection{词嵌入}
+\subsection{前馈、循环、自注意力神经网络}
 
 
 %%%------------------------------------------------------------------------------------------------------------
 %%%------------------------------------------------------------------------------------------------------------
-%%% 什么是词
-\begin{frame}{如何表示``词''}
+%%% 在NLP中神经网络能干什么？
+\begin{frame}{自然语言处理遇到神经网络}
+\begin{itemize}
+\item 神经网络方法给自然语言处理(NLP)带来了新的思路
+\end{itemize}
+
+\begin{tabular} {l | l}
+\textbf{传统基于统计的方法} & \textbf{深度学习方法} \\ \hline
+基于离散空间的表示模型 & 基于连续空间的表示模型 \\
+NLP问题的隐藏结构假设 & 无隐藏结构假设，端到端学习 \\
+特征工程为主 & 无显性特征，但需要设计网络 \\
+特征、规则的存储耗资源 & 模型存储相对小，但计算慢
+\end{tabular}
+\end{frame}
+
+%%%------------------------------------------------------------------------------------------------------------
+%%% 利用前馈神经网络建模$n$-gram
+\begin{frame}{$n$-gram建模 - 前馈神经网络}
 \begin{itemize}
 \begin{itemize}
 \item 什么是单词？
 \item 什么是单词？
 \end{itemize}
 \end{itemize}
 \end{frame}
 \end{frame}
 
 
+%%%------------------------------------------------------------------------------------------------------------
+%%% 深度学习带来的问题及思考 - 并不是无所不能
+
+
 \end{CJK}
 \end{CJK}
 \end{document}
 \end{document}

Section05-Neural-Networks-and-Language-Modeling/section05.tex

@@ -3746,12 +3746,16 @@ $+2x^2+x+1)$ & \ \ $(x^4+2x^3+2x^2+x+1)$ & $+6x+1$ \\
 \end{itemize}
 \end{itemize}
 \end{frame}
 \end{frame}
 
 
+%%%------------------------------------------------------------------------------------------------------------
 \section{神经语言模型}
 \section{神经语言模型}
 
 
-\subsection{词嵌入}
-
+%%%------------------------------------------------------------------------------------------------------------
 \subsection{前馈、循环、自注意力神经网络}
 \subsection{前馈、循环、自注意力神经网络}
 
 
+%%%------------------------------------------------------------------------------------------------------------
+\subsection{词嵌入}
+
+%%%------------------------------------------------------------------------------------------------------------
 \subsection{句子表示模型及预训练}
 \subsection{句子表示模型及预训练}
 
 
 \end{CJK}
 \end{CJK}