Batch and Momentum
引言 这篇文章将讲解如何在model不变的情况下对loss,也就是optimization进行优化、 一.Batch Batch是将整个训练集划分成若干小组,每个小组包含一定数量的训练样本,用于一次参...
引言 这篇文章将讲解如何在model不变的情况下对loss,也就是optimization进行优化、 一.Batch Batch是将整个训练集划分成若干小组,每个小组包含一定数量的训练样本,用于一次参...
引言 本篇文章将讲解关于客制化的learning rate(Adaptive Learning Rate)的相关信息 一.什么是 Adaptive Learning Rate 自适应学习率方法会根据训...