跳到正文
OpenReview · Representation learning· Shanshan Huang; Haoxuan Li; Qingsong Li; Chunyuan Zheng; Li Liu·· 2023-01-01精选AI 评分73

面向多媒体推荐的 Pareto 不变表示学习

Pareto Invariant Representation Learning for Multimedia Recommendation

AI 导读

基于摘要分析。本文研究多媒体个性化排序中通用编码器表示引入伪相关的问题,提出 Pareto Invariant Representation Learning(PaInvRL),通过同时学习不变表示与变化表示,从 IID–OOD 多目标优化角度协调分布内与分布外泛化。原论文的主要对象是用户—物品交互及多模态推荐,并非 EEG 或 BCI。 框架由三个迭代执行的模块组成:异质性识别模块识别用户—物品交互中的异质环境,以反映分布偏移;不变掩码生成模块基于 Pareto 最优解,最小化自适应加权的 Invariant Risk Minimization(IRM)与 Empirical Risk Minimization(ERM)损失;convert 模块生成变化表示及物品不变表示,用于训练多模态推荐模型。其关键思路并非只追求环境不变性,而是显式处理不变约束与经验风险之间的权衡。摘要将不变因素解释为吸引用户注意的内在因素,但具体识别依据与可辨识性尚未验证。 作者报告,在 Movielens、Tiktok 和 Kwai 三个公开多媒体推荐数据集上,与先进推荐模型比较,PaInvRL 在环境内及跨环境学习中均有效。摘要未提供指标数值、环境构造、数据划分和具体对照;实验协议、消融及统计信息尚未验证,不能据此判断收益幅度或不同设置间的可比性。 平台推测(待验证):其 IRM–ERM 权衡机制可能对应 EEG 中保留任务信息与抑制被试、会话相关伪相关之间的矛盾,但这是迁移假设,不是已证实的 BCI 效果。原方法依赖用户—物品交互、多模态物品表示及可识别的异质环境;迁移时可考虑复用多目标权衡与掩码思想,需将推荐目标和交互结构改为 EEG 任务监督及被试或会话环境。低信噪比、小数据和通道差异可能使掩码误删任务信号,环境差异与标签分布耦合也可能影响不变性学习。可在固定编码器和划分下,对比 ERM、IRM 与 Pareto 加权方案,同时评估被试内和跨被试表现,检验是否存在稳定权衡收益。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其以 Pareto 多目标优化协调 IRM 与 ERM、兼顾 IID 和 OOD 泛化的机制,但摘要未提供定量结果,其对 EEG 分布偏移问题的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net