跳到正文
arXiv · 在线与高效推理· Jingcheng Ni; Zekun Li; Zhiyang Dou; Xiaoyan Cong; Ziyao Zeng; Hongyang Du; Randall Balestriero; Taku Komura; Srinath Sridhar·· 6 天前精选AI 评分75

Sonic-AMG:基于空间音频的流式人体动作生成

Sonic-AMG: Streaming Human Motion Generation from Spatial Audio

AI 导读

基于摘要分析。Sonic-AMG 研究如何在不预知后续声音的条件下,根据音频内容及声源位置流式生成人体反应动作,主要贡献是将因果动作生成、rehearsal training 与 spatial feedback 结合,以缓解训练与流式推理之间的历史和空间条件偏差。其研究对象是音频驱动的人体动作生成,而非神经信号解码。 模型将声学内容与身体相对声源几何分别编码为 token,由带 flow head 的因果 Transformer 生成连续动作潜变量,再通过因果解码器重建动作片段。标准 teacher-forced 训练从真实动作获得动作历史及身体相对声源位置,而在线推理依赖生成动作,因此两阶段的条件分布可能不同。rehearsal training 将完整序列的 teacher-forced 监督与短程自回归 self-rollout 上的监督预测结合;spatial feedback 则在该训练过程和推理时,根据生成的根部位姿重新计算身体相对声源位置,使空间条件随生成动作更新。 作者报告,在 SAM 上取得 state-of-the-art FID 和 R-precision,并支持跨声音事件和声源位置的实时在线连贯反应生成。摘要未提供具体分数、数据划分、对照方法、运行硬件或延迟,相关实验协议、消融及统计信息尚未验证;“实时”能力仍需结合正文的测量条件核对。 平台推测(待验证):其机制对具有自回归输出历史、且外部条件随输出状态变化的闭环系统具有参考价值,但不能直接视为 EEG 解码方法。若将其用于 EEG 控制的虚拟身体,假设可复用短程 self-rollout 监督和基于生成姿态的条件更新,仍需新增 EEG 编码及意图监督,并改造动作条件接口。低信噪比、跨被试和通道差异、小样本训练可能使解码误差在闭环中累积。可先在固定 EEG 解码器和相同数据划分下,对比是否加入短程 self-rollout 训练,检验闭环动作误差是否下降。相关 EEG 工作尚未检索确认。

阅读价值

值得关注其以 rehearsal training 与 spatial feedback 分别处理自回归历史偏差和动态空间条件不一致的机制,但摘要中的动作生成结果不构成 EEG/BCI 有效性的证据。

来源:arXiv · 在线与高效推理 · arxiv.org