学习算法一直以来是机器学习能根据数据学到知识的核心技术，而好的优化算法可以大大提高学习速度，加快算法的收敛速度和效果，该论文从浅层模型到深度模型纵览监督学习中常用的优化算法，并指出了每一种优化算法的优点及局限性，同时其还包括了一阶和二阶等各......