推荐算法深入浅出之逻辑回归

谈及机器学习或推荐算法,不得不提入门级的逻辑回归算法。但我们真的掌握逻辑回归了么?不妨回答一下以下问题:

  1. 逻辑回归的代价函数以及公式推导?
  2. 批量梯度下降和随机梯度下降的差异?
  3. 样本太大,导致特征编码耗时太长怎么办?
  4. 如何优化随机梯度下降使得算法又快又准?

如果你对上述问题心里没底不妨读下这篇文章。本文分为四个部分,第一部分介绍逻辑回归算法的推导过程,以便理解算法背后的理论基础;第二部分介绍逻辑回归的实现细节 ,包含特征散列的技巧以及学习率自适应,使得算法能够支撑更大的数据集。第三部分简单的安利一波逻辑回归的工业级实现工具 Vowpal Wabbit,最后一部分分享一些在学习逻辑回归过程中的思考。

[阅读全文]
 |