跳到正文
OpenReview · State space models· Nabarun Goswami; Yusuke Mukuta; Tatsuya Harada·· 2024-01-01精选AI 评分73

HyperVQ:双曲空间中基于 MLR 的向量量化

HyperVQ: MLR-based Vector Quantization in Hyperbolic Space

AI 导读

基于摘要分析。本文研究视觉、音频等非离散数据的 token 化,提出双曲空间向量量化方法 HyperVQ:将 VQ 操作表述为双曲空间中的 Multinomial Logistic Regression(MLR,多项逻辑回归)问题,以区别于 VQVAE 中的欧氏 K-Means 聚类式量化。 作者的出发点是,VQVAE 的重建目标本身不约束嵌入具有良好的解耦性,而这种性质可能影响后续判别任务。HyperVQ 利用双曲空间体积指数增长及表达层级、结构化数据的能力,探索更紧凑的潜在表示。摘要未给出具体损失函数、量化分配与训练细节,尚不能判断其如何协调重建与判别表示学习。 作者报告,在所评估的重建与生成任务中,HyperVQ 与 VQ 表现相当,在判别任务中优于 VQ,并学习到较高解耦性的潜在空间。摘要未提供数据集、划分、基线配置、指标或数值,实验协议、消融及统计信息尚未验证,不能据此判断收益幅度与适用范围。 平台推测(待验证):若 EEG token 表示存在可利用的层级结构,该量化机制可能用于检验重建导向 token 化是否限制判别能力。可复用的是双曲 MLR 量化思路,需适配的是 EEG 编码器、时序输入与下游任务;低信噪比、跨被试差异、通道变化及小样本可能使层级结构不稳定,或使额外的几何建模难以受益。一个可证伪的小实验是在固定 EEG 编码器、码本规模、训练预算与跨被试划分下,对比欧氏 VQ 与 HyperVQ 的重建误差及同一下游分类指标。已有 EEG 相关工作尚未检索确认,原领域结果不构成 BCI 有效性证据。

阅读价值

值得核对将 VQ 从欧氏 K-Means 聚类改为双曲 MLR 的具体实现,以及判别任务收益是否来自量化机制与潜在表示的改变;其 EEG/BCI 适用性尚未验证。

来源:OpenReview · State space models · openreview.net