\documentclass{article} % For LaTeX2e
\usepackage[final]{rlhf-introduction}

\usepackage{microtype}
\usepackage{hyperref}
\usepackage{url}
\usepackage{booktabs}

\usepackage{lineno}

\usepackage{CJK}


\definecolor{darkblue}{rgb}{0, 0, 0.5}
\hypersetup{colorlinks=true, citecolor=darkblue, linkcolor=darkblue, urlcolor=darkblue}


\title{Reinforcement Learning without Tears: An Introduction for Large Language Model Researchers}

% Authors must not appear in the submitted version. They should be hidden
% as long as the \colmfinalcopy macro remains commented out below.
% Non-anonymous submissions will be rejected without review.

\author{Antiquus S.~Hippocampus, Natalia Cerebro \& Amelie P. Amygdale \thanks{ Use footnote for providing further information
about author (webpage, alternative address)---\emph{not} for acknowledging
funding agencies.  Funding acknowledgements go at the end of the paper.} \\
Department of Computer Science\\
Cranberry-Lemon University\\
Pittsburgh, PA 15213, USA \\
\texttt{\{hippo,brain,jen\}@cs.cranberry-lemon.edu} \\
\And
Ji Q. Ren \& Yevgeny LeNet \\
Department of Computational Neuroscience \\
University of the Witwatersrand \\
Joburg, South Africa \\
\texttt{\{robot,net\}@wits.ac.za} \\
\AND
Coauthor \\
Affiliation \\
Address \\
\texttt{email}
}

% The \author macro works with any number of authors. There are two commands
% used to separate the names and addresses of multiple authors: \And and \AND.
%
% Using \And between authors leaves it to \LaTeX{} to determine where to break
% the lines. Using \AND forces a linebreak at that point. So, if \LaTeX{}
% puts 3 of 4 authors names on the first line, and the last on the second
% line, try using \AND instead of \And before the third author name.

\newcommand{\fix}{\marginpar{FIX}}
\newcommand{\new}{\marginpar{NEW}}

\begin{document}

\ifcolmsubmission
\linenumbers
\fi

\maketitle

\begin{abstract}
abstract.    
\end{abstract}

\section{Introduction}
Introduction.


\section{Basics of Reinforcement Learning}
\begin{CJK}{UTF8}{gbsn}
这部分主要讲述强化学习技术和一些符号的定义。\\
（1）介绍RL总体的架构和一些重要的元素（奖励，状态，环境） \\
（2）算法包括REINFORCE,A2C.另外提一下它们的应用场景和优缺点，这样可以为后面“训练LLM”部分做更好的衔接。
\end{CJK}



\section{Training LLMs with Reinforcement Learning}
\begin{CJK}{UTF8}{gbsn}
这部分主要讲述强化学习在大语言模型训练过程中是如何进行建模的。\\
（1）这里首先需要简单说一下大语言模型部分，pre-training，instruction tuning. \\
（2）如何进行优化LLM? 对应到大模型的时候，策略是什么？状态对应的什么？如何进行采样？如何进行参数更新的？ \\
（3）奖励如何设计的？（训练奖励模型 or 一些奖励规则--训练math推理的时候）\\
（4）另外结束的时候需要加个notation的表格。讲述各种符号分别对应的关系（在强化学习-》在大模型训练的过程）。
\end{CJK}

\subsection{Challenges}
\begin{CJK}{UTF8}{gbsn}
这里主要进行对训练LLM的强化学习训练的关键组件进行拆解，进行介绍当下的研究点：数据，效率，稳定性，以及可解释性（这部分考虑融合到上面一个章节，作为一个子章节）。
\end{CJK}




\section{Improved Reinforcement Learning for LLMs}
\begin{CJK}{UTF8}{gbsn}
对应上面的挑战，来去说现在的一些主流的方法提升强化学习在LLM中的工作。\\
（1）偏好数据、偏好泛化 \\
（2）更好的奖励建模  \\
（3）简化优化框架（dynamic RL，GRPO，remax等工作）\\
（3）直接偏好优化
% \include{section4-DPO}
\end{CJK}



\section{Reinforcement Learning for LLM Inference}
\begin{CJK}{UTF8}{gbsn}
除了直接训练LLMs之后，强化学习还从什么方面来去优化了LLMs? \\
（1）inference-time alignment  \\
（2）test-time ranking, o1, R1
\end{CJK}

\section{Reinforcement Learning for Multi-Modal Language Models}
\begin{CJK}{UTF8}{gbsn}
单独的使用一个章节来去说多模态中的RL。不过这个章节不用像之前文本那样描述的比较细致，更多是一些扩展就好。\\
（1）视觉（图生文）\\
（2）使用RL训练diffusion model \\
（3）音频和视频。 \\
\end{CJK}


\section{Conclusion}
\begin{CJK}{UTF8}{gbsn}
总结和一些方向，，是否还要放一些分析（加一些实验）？
\end{CJK}



\section{Some Tools, Datasets, or Systems}
\begin{CJK}{UTF8}{gbsn}
（1）一些RL训练系统 \\
（2）一些教程 \\
（3）可视化分析工具（我记得有一个） \\
\end{CJK}










 



\bibliography{rlhf-introduction}
\bibliographystyle{rlhf-introduction}

\appendix
\section{Appendix}
This is an appendix.

\end{document}
