一些学习等资源的总结,不定期更新。
阅读全文...机器学习基础——决策树与随机森林
今天复习机器学习基础之一,决策树与随机森林。
阅读全文...机器学习基础——支持向量机SVM
今天复习机器学习基础之一,支持向量机SVM。
阅读全文...论文阅读:《Real-time Attention based Look-alike Model for Recommender System》
品牌主在互联网的广告平台精准投放广告时,可以根据平台提供的年龄、地域、性别、地域、商业兴趣标签圈定目标人群。即使广告主对自己的用户非常了解,人工设定标签的方式也不可能非常精确,所以就有了另一种更精准的做法:Look-alike相似人群扩展。
阅读全文...论文阅读:《DIET:Dual Intent and Entity Transformer》
最近开始要重构语音助手项目,重新看了一下rasa。这篇论文是rasa research team发的关于NLU模型的paper,内容比较浅显,论文所述的实验效果较好,不过放在中文实验中目前看上去也不是那么好。
阅读全文...NLP注意力机制总结
在NLP中我们经常使用注意力机制处理复杂的问题,那么注意力机制是怎么产生的,都有哪些变种,是如何应用在模型中的呢?本篇我们来对NLP中的注意力机制进行一些总结。
阅读全文...论文阅读:《A Contextual-Bandit Approach to Personalized News Article Recommendation》
这篇文章属于推荐领域采用强化学习方法的文章。与其他推荐算法相比,基于强化学习的推荐算法更多地关注了explore/exploit问题,即探索/利用问题。也就是强调推荐算法不应该仅仅基于历史数据中用户的偏好进行推荐,而应该给用户更多的新鲜事物,引导和发掘用户的爱好。而强化学习恰恰是基于系统采取的动作所接收到的环境的反馈,来不断训练系统的。因此,在强化学习的过程中适度的选择一些探索性的动作,并观察反馈进一步调整后续的动过选择,天然地具有解决该问题的潜质。
阅读全文...论文阅读:《Ad Click Prediction: a View from the Trenches》
现在做在线学习和CTR常常会用到逻辑回归,而传统的批量算法无法有效地处理超大规模的数据集和在线数据流,google在2010年~2013年从理论研究到实际工程化实现的FTRL算法,在处理诸如逻辑回归之类的带非光滑正则化项(例如L1范数,做模型复杂度控制和稀疏化)的凸优化问题上性能非常出色。
阅读全文...