面向多媒体推荐的 Pareto 不变表征学习
Pareto Invariant Representation Learning for Multimedia Recommendation
基于摘要分析。本文研究多媒体个性化排序中通用编码器表征引入伪相关的问题,提出 Pareto Invariant Representation Learning(PaInvRL),从 IID–OOD 多目标优化角度协调分布内与分布外泛化。其主要研究对象是用户—物品交互与多模态内容推荐,而非 EEG 或 BCI。 PaInvRL 迭代执行三个模块:异质性识别模块识别反映用户—物品交互分布偏移的环境;不变掩码生成模块通过自适应加权的 Invariant Risk Minimization(IRM)与 Empirical Risk Minimization(ERM)损失寻求 Pareto 最优解,并学习不变掩码;convert 模块生成可变表征与物品不变表征,用于训练多模态推荐模型。作者将吸引用户注意的内在因素视为不变因素,将其他因素视为可变因素;这一表征解释是否得到独立验证,摘要无法确认。 作者报告,在 Movielens、Tiktok 和 Kwai 三个公开多媒体推荐数据集上,与先进推荐模型的比较支持 PaInvRL 在环境内及跨环境学习中的有效性。摘要未提供具体指标、增益、环境构造方式、数据划分或基线名称,不能据此量化优势;实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可借鉴之处在于通过环境划分和不变掩码抑制伪相关,同时显式权衡分布内拟合与分布外泛化,机制上可能对应 EEG 中跨被试或跨会话的分布偏移。但原方法依赖用户—物品交互、多模态物品表征及推荐训练目标,不能直接等同于 EEG 分类。迁移时可尝试复用掩码学习与多目标优化思路,需改造编码器、监督目标及环境识别模块;低信噪比、通道差异和小样本可能使环境识别不稳定,或将任务相关差异误判为可变因素。一个可检验的小实验是在固定 EEG 分类编码器和相同数据划分下,比较 ERM、IRM 与加入 Pareto 掩码机制的训练,分别报告被试内及留出被试测试结果,检验泛化收益是否伴随分布内性能损失。已有 EEG 相关工作尚未检索确认。
值得关注其以 Pareto 多目标优化协调 IID 与 OOD 泛化、同时保留不变与可变表征的机制,但摘要未提供量化结果,其对 EEG 分布偏移问题的价值尚未验证。
来源:OpenReview · Representation learning · openreview.net