最近因需要调研了一下目前图卷积网络的一些研究进展,主要侧重于其理论研究及其在大规模推荐系统中的应用。现在总结一下看过的一些论文,以备后查。以下论文均为2018年发表。

1 《Adaptive Graph Convolutional Neural Networks

自适应图卷积神经网络

图卷积神经网络(Graph CNN)是经典 CNN 的方法,可用于处理分子数据、点云和社交网络等图数据。Graph CNN 领域当前的过滤器是为固定的和共享的图结构构建的。但是,对于大多数真实数据而言,图结构的规模和连接性都会改变。本论文提出了一种有泛化能力的且灵活的Graph CNN,其可以使用任意图结构的数据作为输入。通过这种方式,可以在训练时为每个图数据都学习到一个任务驱动的自适应图。为了有效地学习这种图,我们提出了一种距离度量学习。我们在九个图结构数据集上进行了大量实验,结果表明我们的方法在收敛速度和预测准确度方面都有更优的表现[1]。

2 《A Sequential Embedding Approach for Item Recommendation with Heterogeneous Attributes

具有异构属性的商品推荐的序列嵌入方法

诸如元数据和配置文件之类的属性携带有用的信息,这些信息原则上可以帮助提高推荐系统的准确性。然而,由于诸如异构性和稀疏性的实际挑战,现有方法难以完全利用属性信息。这些方法也无法将最近在视频和音乐推荐中显示出有效性的RNN结合起来。为了克服这些挑战并获得序列模型的优势,我们提出了一种新方法,即异构属性递归神经网络(HA-RNN),它结合了异构属性并捕获item和属性中的顺序依赖性。 HA-RNN扩展了递归神经网络,1) 是分层属性组合输入层,2)是输出属性嵌入层。我们对两个大型数据集进行了大量实验,发现与目前的模型相比,该方法有了重大提升。我们的ablation experiments 证明了这两个组件解决异构属性挑战的有效性,包括可变长度和属性稀疏性。我们进一步研究为什么序列建模可以很好地工作,并且当数据规模增加时,序列模型更有效。

3 《Leveraging Long and Short-term Information in Content-aware Movie Recommendation

基于长短期信息的内容感知的电影推荐

电影推荐系统根据个人的偏好和约束为用户提供电影的排名列表。通常使用两种类型的模型来生成排名结果:长期模型和基于会话的模型。长期模型反映了用户和电影之间的相关性,但这些相关性应该随着时间的推移而缓慢变化;基于会话的模型会对用户兴趣和电影属性动态变化的信息进行编码。在本文中,我们提出了一个LSIC模型,其利用对抗训练方法训练在内容感知电影推荐中利用的长期和短期信息。在对抗过程中,我们训练一个生成器作为强化学习的代理,它按顺序向用户推荐下一部电影。我们还训练一个鉴别器,试图将生成的电影列表与真实记录区分开来。电影的宣传信息被收集用以进一步提高电影推荐的性能,这在电影评分很少时特别重要。实验表明,所提出的模型相比别的算法有很大优势。我们将在发布后发布这项工作的源代码。

4 《NeuRec: On Nonlinear Transformation for Personalized Ranking

NeuRec:关于个性化排序的非线性变换

对user-item交互模式建模是个性化推荐的重要任务。 许多推荐系统基于这样的假设:用户和项目之间存在线性关系,而忽略了现实生活中交互的复杂性和非线性。 在本文中,我们提出了一种基于神经网络的推荐模型(NeuRec),它解决了user-item交互的复杂性,并建立了一个集成网络,将非线性变换与潜在特征结合起来。 我们进一步设计NeuRec的两个变体:基于用户的NeuRec和基于项目的NeuRec,其侧重于交互矩阵的不同方面。 对四个真实世界数据集的广泛实验证明了它们在个性化排名任务方面的卓越表现。

5 《xDeepFM: Combining Explicit and Implicit Feature Interactions for Recommender Systems

xDeepFM: 结合显式和隐式特征交互的推荐系统

组合特征对于对于推荐任务是十分重要的,最近研究人员提出了几种基于DNN的分解模型来学习低阶和高阶特征的相互组合。尽管DNN具有很强的学习能力,但是普通的DNN隐式地并且在逐位级别上生成特征交互。在本文中,我们提出了一种新颖的压缩交互网络(CIN),旨在以显式方式和向量级别生成特征交互。我们证明了CIN与卷积神经网络(CNN)和递归神经网络(RNN)共享一些功能。我们进一步将CIN和经典DNN组合成一个统一的模型,并将这个新模型命名为eXtreme深度分解机(xDeepFM)。一方面,xDeepFM能够明确地学习某些有界度特征交互;另一方面,它可以隐式地学习任意低阶​​和高阶特征交互。我们对三个真实数据集进行了全面的实验。我们的结果表明xDeepFM优于最先进的模型。我们已经在github上发布了xDeepFM的源代码

6 《[Modeling Cognitive Processes in Social Tagging to Improve Tag Recommendations(https://arxiv.org/pdf/1805.11878.pdf)》

对社会标签中的认知过程进行建模以改进标签的推荐

With the emergence of Web 2.0, tag recommenders have become important tools, which aim to support users in finding descriptive tags for their bookmarked resources. Although current algorithms provide good results in terms of tag prediction accuracy, they are often designed in a data-driven way and thus, lack a thorough understanding of the cognitive processes that play a role when people assign tags to resources. This thesis aims at modeling these cognitive dynamics in social tagging in order to improve tag recommendations and to better understand the underlying processes. As a first attempt in this direction, we have implemented an interplay between individual micro-level (e.g., categorizing resources or temporal dynamics) and collective macro-level (e.g., imitating other users’ tags) processes in the form of a novel tag recommender algorithm. The preliminary results for datasets gathered from BibSonomy, CiteULike and Delicious show that our proposed approach can outperform current state-of-the-art algorithms, such as Collaborative Filtering, FolkRank or Pairwise Interaction Tensor Factorization. We conclude that recommender systems can be improved by incorporating related principles of human cognition.

参考文献

[1]【AAAI 2018】腾讯 AI Lab 11篇论文精选:图像描述、NMT 模型、图卷积神经网络、DNN优化等
[2] https://cloud.tencent.com/developer/article/1168921