基于会话的推荐

注:会话 session 通常意味着短期的用户行为序列。

一、FPMC[2010]

  1. next basket recommendation 任务中,我们已知用户在各个时刻购买的 basketitem,目标是向用户推荐该用户下一次访问时可能想要购买的 item

    • 基于马尔科夫链 Markov Chain: MC 模型的推荐系统通过上一个动作来预测下一个动作,从而利用这种序列数据。MC估计了一个概率转移矩阵transition matrix,它给出了已知上一个动作的情况下,发生下一个动作的条件概率。预测时,模型对每个用户的最近一次行为应用概率转移矩阵从而进行推荐。

      然而,MC模型的概率转移矩阵对所有用户都是相同的,即非个性化的。

    • 另一方面,协同过滤方法(如矩阵分解 matrix factorization: MF)学习了个性化的、用户的一般兴趣general taste ,而忽略了序列信息。

    MCMF 各有优势:MC可以通过非个性化的概率转移矩阵来及时地捕获序列效果(即,概率转移矩阵是在所有用户的所有数据上学习的),而MF 可以通过所有数据来学习个性化的、每个用户的一般兴趣。

    在论文《Factorizing Personalized Markov Chains for Next-Basket Recommendation》 中,论文提出了一个基于个性化MC的模型,其中概率转移矩阵是 user-specific 的。具体而言,论文建模了一个概率转移立方体transition cube,这个立方体的每个切面都是 user-specific 概率转移矩阵。通过这种个性化,论文将MCMF 的优点结合在一起:序列数据由概率转移矩阵捕获;由于所有概率转移矩阵都是 user-specific 的,因此模型捕获了个性化的用户兴趣。

    除了引入个性化MC之外,这项工作的核心贡献是估计概率转移张量 transition tensor(即概率转移立方体)。由于数据的稀疏性,不可能通过在完全参数化complete parametrization 上使用标准计数方法(即,最大似然估计的估计Maximum Likelihood Estimator: MLE)来获得个性化概率转移矩阵的良好估计。相反,论文通过一个分解模型 factorization model 来建模概率转移张量。这允许在相似的用户、相似的 item、以及相似的转移之间传播信息。通过使用基于 pairwise interactionMF,模型能够处理高度稀疏性。论文表明,该模型包含了个性化的MF 模型、以及非个性化的MC模型。为了学习模型参数,论文将 Bayesian Personalized Ranking: BPR 框架扩展到 next basket recommendation

    最后,论文将所提出的方法应用到真实的电商数据集,实验结果表明所提出的方法优于MFMC模型。

    总而言之,论文的贡献如下:

    • 论文引入了依赖于个性化的概率转移矩阵的个性化MC,这允许我们同时捕获序列效应和长期用户兴趣。论文证明这是标准MCMF的推广。
    • 为了处理转移概率估计的稀疏性,论文引入了一个可以应用于个性化概率转移矩阵的分解模型。这种分解方法导致参数更少,并且由于泛化能力导致它比完全参数化的模型更好的质量。
    • 论文的实验表明,所提出的模型在序列数据上优于其它 state-of-the-art 方法。
  2. 相关工作:

    • 一些研究人员已经研究了马尔科夫链或推荐系统。我们没有使用启发式方法来改善最大似然估计,而是使用为优化 ranking (而不是优化 MLE)而学习的分解模型。总体而言,我们的工作与之前所有方法的主要区别在于使用个性化的概率转移矩阵,这结合了序列的好处(如时间感知、具有时不变用户兴趣的马尔科夫链)。此外,转移概率的分解和用于 ranking 的参数优化准则是新提出的。
    • 另一方面,大多数推荐系统未考虑序列模式,而是基于整个用户历史进行推荐。最近,来自隐式反馈的 item 推荐已经开始成为热点。item 推荐是相比评分预测更难的问题,因为只有正反馈而没有负反馈,因此无法直接应用标准的回归方法或分类方法。最近人们提出了一些基于矩阵分解的模型,这些模型分解了 user-item 相关性矩阵correlation matrix 。在这项工作中,我们将这些 MF 模型的优点与 MC 模型结合起来。

1.1 模型

  1. 生成推荐的最常见方法是丢弃任何序列信息并学习用户的一般兴趣。另一方面,序列方法(主要依赖于马尔科夫链)的推荐仅基于最近的用户事件来学习相邻购买行为的关联。这两种方法都各有优缺点。

  2. U={u1,u2,,uM} 为用户集合,I={i1,i2,,iN}item 集合,M 为用户数量,Nitem 数量。

    假设用户 u 在时刻 t 购买的 busketBtuI ,用户 u 的历史 busket 集合为 Bu={B1u,,Btu1u} 。令所有用户的所有历史 busketB={Bu1,Bu2,,BuM} 。给定 Bnext basket recommendation 任务是:在用户下次访问商店的时候向用户推荐 item 。注意,我们处理的不是绝对时间,而是关于用户的相对时间,如用户 u 的第一个 busket、第二个 busket 等等。

    因此该方法未考虑时间信息(绝对时间、相对时间间隔),仅考虑相对次序。

    next basket recommendation 推荐任务可以公式化为:为用户 u 的第 tbusket 中的所有 item 创建个性化的 ranking 函数 u,tI×I 。通过这个 ranking 函数,我们可以向用户推荐 top n item

  3. 首先,我们为顺序的集合 sequential set 引入 MC,并将其扩展到个性化 MC。然后,我们讨论概率转移立方体transition cube 的最大似然估计的弱点。然后,为解决这个问题 ,我们引入了分解的概率转移立方体 ,其中转移之间的信息被传播。最后,我们结合了所有的思想从而得到 FPMC 模型。

1.1.1 用于集合的个性化马尔科夫链

a. 用于集合 Set 的马尔科夫链
  1. 通常,阶次为 m 的一条马尔科夫链定义为:

    p(Xt=xtXt1=xt1,,Xtm=xtm)

    其中:Xt,,Xtm 为随机变量;xt,,xtm 为对应的随机变量的取值。

    在非集合的推荐应用application 中,随机变量是在 I 上定义的,即单个的 item iI 。但是我们这里的随机变量是定义在 basket 上的,因此其状态空间大小是 2N (即,对于一个 basket,它包含不同 item 的组合有 2|I| 种)。显然,在整个状态空间中定义一个长的马尔科夫链是不可行的。

    为了处理这个巨大的状态空间,我们做了两个简化:

    • 我们使用长度为 m=1 的链。

      对于 basket 场景, m=1 的非个性化马尔科夫链是:

      p(BtBt1)

      在非集合的推荐场景中,通常可以选择更长的马尔科夫链(如 m=3 ),因为 m=1 的历史仅包含一个 item 。在我们的 case 中,即使长度为 m=1 的马尔科夫链也是合理的,因为一个 basket 包含很多 item。例如,在我们评估的 application 中,平均每个 basket 大约有 10item

    • 我们简化了转移概率 transition probability

      长度为 m=1 的马尔科夫链由它们在状态空间上的随机转移矩阵 A 来描述。在我们的例子中,由于状态空间的大小为 2N,因此转移矩阵的维度为 2N×2N 。因此,我们并没有在 basket 上建模转移,而是在描述了 basket 状态的 N 个二元变量(每个二元变量表示对应的 item 是否包含在当前 basket 中)上建模转移:

      aj,i=p(iBtjBt1)

      aj,i 的物理意义为:已知 item j 在前一个 basket 的情况下,下一个 basket 中出现 item i 的条件概率。

      这种建模方式意味着:

      • 状态空间现在是 I,因此转移矩阵 A 的维度为 N×N 。通过因子分解,我们进一步可以将参数数量从 N2 降低到 2kN ,其中 kN 为潜在因子的维度。

      • 状态空间的元素是二元变量,因此 p(iBtjBt1)+p(iBtjBt1)=1.0 。注意,转移矩阵 A 不再是随机的,因为 iIaj,i1.0

        因为下一个 basket 可能包含很多 item,使得 iIaj,i>1.0

  2. 对于 item 推荐,我们感兴趣的是:在给定用户最近一个 basket 的情况下购买某个 item 的概率。这可以定义为从最近一个 basket 到该 item 的所有转移概率的均值:

    p(iBtBt1)=1|Bt1|jBt1p(iBtjBt1)

    这里假设最近一个 basket 中所有 item 对于 next item i 的作用是独立的、线性的、等权重的。也可以通过基于 attentionDNN 模型,从而得到交互的、非线性的、自适应权重的模型。

    basket 上完全的马尔科夫链可以表示为:

    p(BtBt1)iBtp(iBt1)

    注意,我们的目标是寻求 item ranking list,因此对完全的马尔科夫链 p(BtBt1) 不感兴趣,而是对单个 item 概率 p(iBt1) 感兴趣。

b. 转移概率的估计
  1. 给定所有用户的所有历史 busket B,转移概率 aj,i 的最大似然估计为:

    a^j,i=p^(iBtjBt1)=p^(iBtjBt1)p^(jBt1)=|{(Bt,Bt1)iBtjBt1}||{(Bt,Bt1)jBt1}|

    其中:

    • 分子为所有历史 busket B中, j 位于前一个basketi 位于后一个 basketbasket pair 数量。
    • 分母为所有历史 busket B中, j 位于前一个 basketbasket pair 数量。

    这里基于统计的方法来估计 p^(iBtjBt1),并未考虑到 Bt1 中其它 item 的存在对于概率的影响。即,认为 basket 中所有 item 对于 next item i 的作用是独立的。

c. 用于集合的个性化马尔科夫链
  1. 上述的马尔科夫链是非个性化的,即与用户无关。现在我们将其扩展到个性化马尔科夫链 p(BtuBt1u) 。同样地,我们通过 item 的转移概率来表示每个马尔科夫链,但是现在是 user-specific 的:

    au,j,i=p(iBtujBt1u)

    同样地,预测结果也是 user-specific 的:

    p(iBtuBt1u)=1|Bt1u|jBt1up(iBtujBt1u)

    同样地,这里假设最近一个 basket 中所有 item 对于 next item i 的作用是独立的、线性的、等权重的。

    au,j,i 的最大似然估计为:

    a^u,j,i=p^(iBtujBt1u)=p^(iBtujBt1u)p^(jBt1u)=|{(Btu,Bt1u)iBtujBt1u}||{(Btu,Bt1u)jBt1u}|

    这意味着对于每个用户 u 都有一个对应于该用户的转移矩阵 AuRN×N 。因此我们得到一个维度为 M×N2 的转移张量(即转移立方体)A

  2. 下图展示了个性化概率转移矩阵的一个例子。许多参数无法估计(图中以 ? 标记 ),因为没有对应的观察数据。此外,估计的转移概率仅基于少量观察数据,这意味着这些估计是不可靠的。乍一看,使用个性化马尔科夫链似乎是不合理的,接下来我们将讨论导致错误估计的原因是什么,并展示如何解决它。

d. 最大似然估计和完全参数化的局限性
  1. 非个性化马尔科夫链和个性化马尔科夫链的不可靠转移概率的问题在于:它们使用完全参数化full parametrization 的转移图transition graph(即转移矩阵、转移立方体)、以及参数估计的方式。

    • 完全参数化意味着我们分别有 N2M×N2 个独立参数来描述概率转移。

    • 此外,最大似然估计独立地估计每个转移概率参数 aj,i,即:任何共现 (j,i1) 都不会对另一个转移概率 aj,i2 有贡献,它仅对于 aj,i1 有贡献。对于个性化马尔科夫链而言甚至更糟,任何共现 (u1,j,i) 都不会对另一个转移概率 au2,j,i 有贡献。

    • 此外,最大似然估计的重要性质(如高斯分布、无偏估计、无偏估计的最小方差)仅存在于渐进理论中。当数据较少的情况下,最大似然估计会遭受欠拟合。由于我们的场景中数据非常稀疏,因此最大似然估计很容易失败。

      即模型的容量空间太大,数据量太少,导致模型欠拟合。

    为了得到更可靠的转移概率估计,我们分解了概率转移立方体。这种方式打破了参数的独立性、以及估计的独立性。这样,每个转移概率都受到相似用户、相似 item、以及相似转移的影响,这是因为信息通过该分解模型进行传播。

1.1.2 分解转移图

  1. 我们对概率转移立方体 ARM×N×N 进行因子分解,这意味着我们通过低秩近似 A^ 对观察到的转移张量 A 进行建模。这种方法相比较于完全参数化的优势在于:它可以处理数据稀疏性并泛化到未观察到的数据, 因为信息通过模型传播(即模型参数)来相互影响。

  2. 概率转移立方体的分解:用于估计概率转移立方体 A 的通用线性分解模型是 Tucker Decomposition: TD

    A^=C×UVU×JVJ×IVI

    其中:

    • CRkU×kJ×kIcore tensorkU,kJ,kI 为因子分解的维度。
    • VURM×kU 为用户的特征矩阵。
    • VJRN×kJ 为最近一次交易中的 item 的特征矩阵(outgoing 节点)。
    • VIRN×kI 为待预测的 item 的特征矩阵(ingoing 节点)。

    Tucker Decomposition 包含其它分解模型,如 Canonical Decomposition: CD (也称作并行因子分析 parallel factor analysis: PARAFAC)。CD 假设 core tensor 是对角矩阵,即:

    cfu,fi,fj={1,if fu=fi=fj0,else

    并且因子分解的维度相等,即 kU=kJ=kI

    由于观察到 A 是非常稀疏的,因此我们使用 CD 的一种特殊情况来建模 pairwise 交互:

    a^u,j,i=vuU,IviI,U+viI,JvjJ,I+vuU,JvjJ,U

    这里类似于 FFM 的思想,每个 field 都有两个 embedding 从而与不同的其它 field 进行交互。

    此外,这里的 core tensor 对角线为 1,意味着不同的 field 交互的重要性都是相同的。能否自动学习不同 field 交互的重要性?

    该模型直接建模张量的所有三种模式之间的 pairwise 交互,即usernext item 之间、 userlast item 之间、以及 last itemnext item 之间的交互。对于每种模式,我们有两个分解矩阵:

    • 对于usernext item 之间的交互:VU,IRM×kU,I 建模用户特征,VI,URN×kU,I 建模 next item 特征。
    • 对于 userlast item 之间的交互:VU,JRM×kU,J 建模用户特征,VJ,URN×kU,J 建模 last item特征。
    • 对于 last itemnext item 之间的交互:VI,JRN×kI,J 建模 next item特征,VJ,IRN×kI,J 建模 last item特征。

    该模型优于 TD 的一个优点是:预测和学习复杂度远远低于 TD。此外,即使 TDCD 包含了上述 pairwise 交互模型,但是它们无法识别到 pairwise 交互模型。

  3. 我们提出的分解概率转移立方体的模型也可以用于非个性化的概率转移矩阵 ARN×N ,即:

    a^j,i=viI,JvjJ,I
  4. 总结:将个性化的、集合的马尔科夫链与分解的概率转移立方体相结合,则得到分解的个性化马尔科夫链 factorized personalized Markov chain: FPMC

    p(iBtuBt1u)=1|Bt1u|jBt1up(iBtujBt1u)

    其中我们通过被分解的立方体 A^ 来建模 p(iBtujBt1u)

    p^(iBtuBt1u)=1|Bt1u|jBt1ua^u,j,i=1|Bt1u|jBt1u(vuU,IviI,U+viI,JvjJ,I+vuU,JvjJ,U)

    因为 usernext item 之间的交互 vuU,IviI,Uj 无关,因此上式等价于:

    p^(iBtuBt1u)=vuU,IviI,U+1|Bt1u|jBt1u(viI,JvjJ,I+vuU,JvjJ,U)

    可以看到 FPMC 的预测结果可以分为几个部分:

    • usernext item 之间的交互,建模next item 与用户长期偏好的关系,因为这部分与时间 t 无关。
    • last itemnext item 之间的交互,建模next item 与用户短期偏好的关系。
    • userlast item 之间的交互,这一部分可以建模了用户长期偏好和用户短期偏好的关系。随后的章节中,论文证明这个部分可以被移除。

    所有的这些部分都可以用更复杂的模型(如 DNN)、引入更多的辅助信息(如用户画像、item 画像)来刻画。

    在接下来的章节中,我们将 FPMC 模型应用于 item 推荐任务。我们将证明,在这种情况下模型可以进一步简化,此时 userlast item 之间的交互可以移除。

    与完全参数化的概率转移立方体相比,分解模型的泛化性能更好、且参数更少。

    • 完全参数化的模型需要 M×N2 个参数(个性化的概率转移立方体)或 N2 个参数(非个性化的概率转移矩阵)。
    • 分解模型只需要 2kI,J×N+kU,I×(M+N) 个参数(个性化的概率转移立方体) 或 2kI,J×N 个参数(非个性化的概率转移矩阵)。

    对于具有大量 itemapplication 而言,使用 O(N2) 个参数的完全参数化是不可行的。

1.1.3 Item 推荐

  1. 前面已经介绍了个性化马尔科夫链的分解模型,接下来我们将该模型应用于 item 推荐任务中。这意味着模型参数应该针对 ranking 进行优化。

    • 首先,我们从sequential set数据中导出 S-BPR,它是 item 推荐的通用优化准则。该优化准则不仅可用于我们的 FPMC 模型,还可用于其他模型,如 kNN 或标准 MF 模型。

    • 其次,我们将 S-BPR 应用于 FPMC,并展示了在使用 S-BPR 进行 item 推荐的情况下如何简化模型。

    • 最后,我们提出了一种基于 bootstrap 采样的随机梯度下降学习算法,用于使用 S-BPR 优化模型参数。

      这个 bootstrap 采样的随机梯度下降学习算法就是 mini-batch 随机梯度下降学习算法。

a. S-BPR 优化准则
  1. 如前所述,从 sequential basket 数据中推荐 item 的目标是推导出 itemranking 函数 u,t 。为了建模 ranking,我们假设有一个估计量 g^:U×T×IR (如个性化马尔科夫链的购买概率)从而用于定义 ranking

    i1u,ti2g^(u,t,i1)>Rg^(u,t,i2)

    其中 T 为时间的集合。

    由于 >R 是实数集合 R 上的全序total order,所以 u,t 也是全序。因此 g^(u,t,i) 能够为 item 集合 I 生成时刻 t 的个性化排序。

  2. 接下来我们导出类似于通用 BPR 方法 的 sequential BPR: S-BPR 优化准则。用户 u 在时刻 t 的最佳 raking u,tI×I 可以公式化为:

    p(Θ|u,t)p(u,tΘ)p(Θ)

    其中 Θ 为模型参数,在我们的场景中就是 Θ={VU,I,VI,U,VJ,I,VI,J,VU,J,VJ,U}

    假设 basket 和用户独立,这导致模型参数的最大后验 maximum a posterior: MAP估计:

    argmaxΘuUBtBup(u,tΘ)p(Θ)

    对所有 item pair (i1,i2)I×I 展开 u,t ,并且假设用户basket 内的 next item 之间是相互独立的(来自于 BPR 原始论文的假设),则 p(u,tΘ) 可以重写为:

    p(u,tΘ)=uUBtBui1Bti2Btp(i1u,ti2Θ)

    然后我们用模型定义 g^(u,t,i) 来表达 p(i1u,ti2Θ)

    p(i1u,ti2Θ)=p(g^(u,t,i1)>Rg^(u,t,i2)Θ)=p((g^(u,t,i1)g^(u,t,i2))>R0Θ)

    这里我们忽略参数 Θ,因为它是 g^() 模型参数。此外,我们定义 p(z>0)=σ(z)=1/(1+exp(z)) , 其中 σ()sigmoid 函数,则有:

    p(i1u,ti2Θ)=σ(g^(u,t,i1)g^(u,t,i2))

    进一步地,我们假设模型参数 Θ满足高斯先验,即:θN(0,1/λθ) ,则我们得到S-BPRMAP 估计:

    argmaxΘlnp(u,tΘ)p(Θ)=argmaxΘlnuUBtBui1Bti2Btσ(g^(u,t,i1)g^(u,t,i2))p(Θ)=argmaxΘuUBtBui1Bti2Btlnσ(g^(u,t,i1)g^(u,t,i2))λΘ||Θ||F2

    其中 λΘ 为对应于参数 Θ 的正则化系数。

    S-BPRBPR 的核心区别在于:

    • BPR(positive, negative) pair 中,negative 是用户 u 的所有历史item 之外选取,即全局负样本。
    • S-BPR(positive, negative) pair 中,negative 是用户 u 的当前 basket item (即 positive 所在的 basket )之外选取,即局部负样本。
b. 采用 FPMC 的 Item 推荐
  1. 首先,我们用 FPMC 模型来表示 g^() ,并应用 S-BPR

    g^(u,t,i)=p^(iBtuBt1u)=vuU,IviI,U+1|Bt1u|jBt1u(viI,JvjJ,I+vuU,JvjJ,U)
  2. 引理一(userlast item 之间分解的不变性):对于使用 S-BPRitem 排序和优化,FPMC 模型对于userlast item 之间的分解是不变的,即 g^()g^() 是不变的,其中:

    g^(u,t,i)=vuU,IviI,U+1|Bt1u|jBt1uviI,JvjJ,I

    证明过程见原文。主要思路:令 是由 g^() 产生的排序函数, 是由 g() 产生的排序函数。则根据:

    u,t,i1,i2:g^(u,t,i1)g^(u,t,i2)=g^(u,t,i1)g^(u,t,i2)

    则可以证明:

    • 两个模型 g^()g() 产生相同的排序结果。
    • 两个采用 S-BPR 的模型最优化得到相同的参数解 Θ ,这是因为二者的目标函数 argmaxΘlnp(u,tΘ)p(Θ) 是等价的。

    因此对于采用 FPMCitem 推荐,我们使用新的 g^() 公式。

  3. 然后,我们将展示简化的 FPMC 模型与标准的矩阵分解matrix factorization: MF 和分解马尔科夫链factorized Markov chain: FMC 的关联。

    • 用于 item 推荐的标准 MF 模型为:

      g^MF(u,t,i)=vuU,IviI,U

      其中 g^() 独立于序列行为,即独立于 t

    • 非个性化的分解马尔科夫链FMC 模型为: