以运动为共同基础:对齐异构传感模态以实现人体活动识别
Motion as Common Ground: Aligning Heterogeneous Sensing Modalities for Human Activity Recognition
基于摘要分析。本文研究异构传感器人体活动识别(HAR):RGB、depth、LiDAR、mmWave 和 WiFi 等模态的物理信号与数据结构不同,但观测对象共享底层人体运动。作者提出 UniMotion,以结构化运动作为跨模态对齐基础,再通过可靠性与分歧感知融合完成多模态识别;主要研究对象不是 EEG 或 BCI。 UniMotion 使用经骨架数据预训练的运动模型建立共享时间—关节运动空间。第一阶段,各模态专属的 Motion Adapters 利用可学习关节查询,将传感器原生特征映射为按关节索引的 token,从而对齐异构表示;骨架序列仅在训练时使用。第二阶段,Reliability- and Disagreement-Aware Motion Fusion(RDMF)估计随时间变化的模态可靠性,形成加权运动共识,并利用跨模态分歧保留共识之外的互补证据。相较于摘要所述的模态不变学习或 LLM 语义对齐,其关键区别是显式引入与任务相关的运动结构。 作者报告,在 MM-Fi 与 XRF55、覆盖七种传感模态的评估中,UniMotion 在随机划分、跨被试和跨环境协议下取得最先进的平均 Accuracy,并在不同模态组合下保持有效。摘要未给出具体数值、基线细节及划分方式,因此不能量化优势或跨协议比较;预训练数据规模、损失定义、实验协议细节、消融及统计信息尚未验证。 平台推测(待验证):可迁移的假设是,运动相关 EEG 与外周运动传感器的联合识别也可能受益于可靠性感知融合,但 EEG 并非直接观测关节运动,原有 Motion Adapters 和共享空间不能直接照搬。可复用候选是融合机制,需改造 EEG 编码与对齐监督;低信噪比、跨被试及通道差异、小数据条件均可能使可靠性估计失准,运动想象也未必对应真实关节轨迹。一个可证伪的小实验是在同步 EEG—运动传感数据上,固定编码器与跨被试划分,对比简单融合和 RDMF,并测试单模态受噪或缺失时的表现。该实验属于迁移假设,已有 EEG 相关工作尚未检索确认。
值得核对的是以时间—关节运动表示替代纯语义对齐,以及结合动态可靠性与跨模态分歧的融合机制;其在 EEG/BCI 中的适用性尚未验证。
来源:OpenReview · Representation learning · openreview.net