<h1>Revisiting Graph based Collaborative Filtering:A Linear Residual Graph Convolutional Network Approach</h1>
<h1>本文提出了一种使用非线性特征传播和残差结构的GCN网络LR-GCCF用于基于CF的推荐系统，在模型表型上和时间效率上有了一定的提高。</h1>
<p> </p>
<h1>摘要</h1>
<p>GCNs通过不断堆叠层数是最好的图表示模型。最近，推荐系统中的协同过滤，一种把用户-物品交互当作二部图来看待的方法，一些研究使用GCNs来建模高阶的协同信号。这些推荐模型相比于传统的模型展示了很好的性能。然而，这些模型由于带着非线性激活并且用在大的用户-物品交互图中是十分难训练的。并且，大多数的GCNs网络由于过平滑问题都不能太深。在本文中，我们从两个方面重新审视了基于GCN的CF模型：1.我们的经验表明，去除非线性会提高推荐性能，这与简单图卷积网络的理论是一致的 2.我们提出了一种专门用于CF的残差网络结构，这可以缓解在用户-用户的稀疏中执行图卷积聚合操作过平滑的问题。</p>
<h1>介绍</h1>
<p>进几年见证了GCNs的火爆程度，它还有很多变体来应对不同的任务。GCNs的基本思想是迭代地堆叠层数，每一层的操作具体为：1.基于卷积邻域聚合的节点嵌入2.然后对神经网络参数化的节点嵌入进行非线性变换。因此，节点的高阶相似性很容易就被捕捉到了。</p>
<p>在本文中，我们关注把GCNs应用在CF中。CF通过用户-物品过去的数据来提供个性化推荐。事实上，把用户-物品交互矩阵看成一幅图，CF可以转成成图中的边预测问题。近几年来，有很多工作工作关注把GCNs用在协同过滤中，基于GCNs的推荐系统模型也比传统的模型效果好。</p>
<p>与基于GCN的推荐的成功不同，我们讨论两个在GCN仍然没有解决的问题。首先，对于用户和物品的嵌入表示，GCNs使用两步1.通过图卷积操作的邻居聚合2.非线性变换。图卷积操作对聚合邻居信息是十分有用的，但是非线性激活是有必要的吗？其次，现有的大多数模型都只能堆叠少数的几层GCN层。事实上，图卷积操作是一种特殊形式的图拉普拉斯平滑。通过k层的GCNs，拉普拉斯平滑可以把k阶领域的邻居包括在内。因此，由于高层的邻居相互之间变得不可区分，过平滑问题存在于深层模型中。再推荐中限制用户-物品的交互记录，过平滑的问题会变得十分严重，由于训练数据十分稀疏。凭直觉，通过增加层数可以缓解CF中数据稀疏的问题，但是同时也会使节点趋于一致并降低模型表现。如何更好的建模图结构同时规避过平滑的问题仍然备受关注。</p>
<p>为了解决上诉问题，我们重新仿了基于图结构的带着残差图卷积的模型。我们的主要贡献在下面两个方面：1.我们分析了CF与其他图结构任务的独特性，并且说明去掉非线性变换可以增加模型性能的同时降低复杂度，这与最近简化GCNs的理论是一致的。2.为了在迭代过程中缓解过平滑的问题，我们提出了在每层中增加残差连接。因此，用户的独特性将会在底层中被保留，高层的GCN可以关注学习用户的剩余偏好（user's residual preferences），这可以在每个用户的有限的历史中被捕获。这种思想来源于ResNet，我们的工作致力于如何把残差部分的结构融入到用户-物品的交互预测中。我们证明了，我们提出的模型退化成了一个线性模型来通过用户-物品的交互进行预测。总之，与现有的基于GCNs的推荐模型相比，我们提出的模型更容易训练，易于更大的模型。</p>
<p> </p>
<h1>准备工作和相关工作</h1>
<p><img alt="\tiny G=<V,A>" class="mathcode" src="https://201907.oss-cn-shanghai.aliyuncs.com/cs/5606289-d2795118473d63ad935259733090b566.latex">,<img alt="\tiny V" class="mathcode" src="https://201907.oss-cn-shanghai.aliyuncs.com/cs/5606289-e7725eb23b9fc9f915cbc6cba1e37e76.latex">是点的集合，A是邻接矩阵，<img alt="\tiny a_{ij}" class="mathcode" src="https://201907.oss-cn-shanghai.aliyuncs.com/cs/5606289-98bab94d498efdbfc73c2cde946f6ad5.latex">表示节点<img alt="\tiny i" class="mathcode" src="https://201907.oss-cn-shanghai.aliyuncs.com/cs/5606289-0bac9cdb008a80a95851ebe6f9735cf9.latex">和<img alt="\tiny j" class="mathcode" src="https://201907.oss-cn-shanghai.aliyuncs.com/cs/5606289-dcb7fb7e0b1ccf887b6950384ab2ae2b.latex">的边，如果<img alt="\tiny i" class="mathcode" src="https://201907.oss-cn-shanghai.aliyuncs.com/cs/5606289-0bac9cdb008a80a95851ebe6f9735cf9.latex">与<img alt="\tiny j" class="mathcode" src="https://201907.oss-cn-shanghai.aliyuncs.com/cs/5606289-dcb7fb7e0b1ccf887b6950384ab2ae2b.latex">之间有边，则<img alt="\tiny a_{ij}" class |
|
转播
