RNN 隐藏状态向量与语义真值之间的关系

研究考察 RNN 的隐藏状态向量是否会按语义相似性形成聚类，即作者所称的 clustering hypothesis。核心贡献是在正则语言识别任务中，利用精确的真值自动机，将隐藏状态的可分性及无监督聚类结果与真实语义状态对照，而非仅凭聚类形态判断表征是否具有语义。本文基于摘要分析，未取得论文全文。 技术上，作者先分析隐藏状态能否按不同语义类别实现（分段线性）分离，再使用多种无监督聚类方法划分隐藏状态空间，并分析聚类函数的准确性，以及同一聚类中的向量是否对应真值模型中的同一状态。这里的主要研究对象是学习正则语言的 RNN，不是 EEG 解码或 BCI；真值自动机提供了通常难以在真实神经信号中获得的明确语义参照。 作者报告，在所考察的大多数情形中，结果支持聚类假设；训练良好的 RNN 隐藏状态具有可分性，无监督聚类也能找到相似状态向量的聚类。摘要未给出具体 RNN 架构、语言集合、聚类算法名称、数据划分或定量结果，实验协议、消融及统计信息尚未验证。这些结论不能直接推广到任意 RNN 或真实信号任务。 平台推测（待验证）：假设 EEG 时序模型的隐藏状态存在与任务阶段相关的稳定结构，可借用“隐藏状态聚类—外部语义标签对照”的诊断思路，检查表征结构，而非据此宣称解码性能提升。可复用的是聚类与语义一致性评估框架；需改造的是语义参照，因为 EEG 任务标签不等同于完整的潜在神经状态。低信噪比、跨被试差异、通道配置变化及小样本可能使聚类更多反映噪声或被试身份。一个可检验的小实验是在固定 EEG 任务与被试内划分下训练 RNN，在独立测试数据上比较隐藏状态聚类与任务标签、被试或会话标签的对应关系，并用标签置乱检验语义一致性是否超出偶然水平。已有 EEG 相关工作尚未检索确认。