跳到正文

算法、任务与模态

隐私与安全 最新动态

隐私与安全 研究索引；按可核对的标签归档，不以热度评价质量。

25 条精选近 30 天 17 条共收录 31 条

更新

精选归档 · 第 2 页

9月28日周六第 21–25 条
  1. OpenReview · Representation learning72

    Fed-REACT：面向异质时间序列数据的联邦表征学习

    基于摘要分析。该研究针对联邦学习中客户端数据分布随时间及客户端而变化、进而影响常规联邦算法性能的问题，提出 Fed-REACT，将表征学习与 evolutionary clustering（演化聚类）结合，用于异质时间序列上的本地下游任务。 方法分为两个阶段：首先，客户端学习从本地时间序列提取有意义特征的模型；随后，服务器自适应地将客户端分组，并协调各簇内任务模型的学习，支持分类或回归等表征提取之后的下游任务。其机制重点在于将表征提取与簇级任务学习分开，而不是仅依赖单一全局任务模型。聚类依据、随时间更新的规则、表征模型是否共享以及具体训练目标尚未验证。 作者报告，在真实世界时间序列数据集上的实验中，该算法具有较高准确率和鲁棒性，并提供了性能理论分析。摘要未给出数据集名称、任务划分、对照基线、指标数值或理论成立条件，因此无法量化优势，也无法判断其在不同异质性条件下的稳定程度。实验协议、消融及统计信息尚未验证；复现还需核对客户端构建方式、通信与计算开销及实现可得性。 平台推测（待验证）：假设 EEG 客户端存在可聚类的任务相关分布结构，簇级学习可能缓解跨被试或跨会话差异导致的负迁移；但原领域有效不等于 BCI 有效。可考虑复用客户端分组与簇级协调机制，表征提取器和聚类特征则需适配 EEG 通道与时序结构。低信噪比、通道不一致及单客户端小数据可能使聚类主要反映噪声或采集差异。一个可证伪的小实验是在固定跨被试划分、监督信息和通信预算下，对比单一全局联邦模型、固定聚类与自适应聚类，检验簇级学习是否稳定改善被试级表现；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其表征学习与自适应客户端聚类如何应对时间序列的跨客户端及时间变化异质性，但摘要尚不足以确认性能增益或 EEG 适用性。

1月1日周一
  1. OpenReview · State space models73

    探索视觉状态空间模型对后门攻击的鲁棒性

    基于摘要分析。本文研究 Visual State Space Model（VSS）对后门攻击的鲁棒性，重点考察 State Space Model（SSM）机制如何影响触发器敏感性，并研究 patch 处理对后门触发器的影响。后门攻击的目标是在特定触发器出现时使受感染模型输出攻击者指定的标签，同时在正常样本上维持正常行为。 作者报告，SSM 捕获 patch 内上下文信息的机制使 VSS 比不含 SSM 的模型更易受到后门触发器影响；另一方面，所考察的 patch 处理能够有效扰乱这些触发器。基于此，作者进一步考察在每个 patch 中重复出现、以抵抗 patch 扰动的后门触发方式。摘要未给出具体 patch 处理操作、触发器构造、投毒设置或训练细节，机制归因仍需结合正文与消融核对。 作者报告，在三个未具名数据集和多种后门攻击的实验中，VSS 的后门鲁棒性与 Transformers（ViTs）相近，但弱于仅堆叠 Gated CNN blocks、不含 SSM 的 Gated CNNs。摘要未提供具体指标、数值、数据划分及对照配置，不能据此量化差距或推断干净样本性能；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 模型将时间序列切分为 patch 并使用 SSM，重复触发模式与 patch 上下文聚合之间的关系可能成为安全性检查线索，但视觉实验不等于 EEG/BCI 验证。迁移需改造视觉 patch 和触发器为符合 EEG 时间、通道结构的输入模式；低信噪比、跨被试差异及小数据训练可能改变触发器可学习性。一个可检验的小实验是在固定数据划分和投毒条件下，对比含 SSM 与不含 SSM 的模型，测试局部及重复触发器在 patch 扰动前后的攻击成功率与干净样本 Accuracy。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的具体原因是其将 VSS 的后门敏感性与 SSM 的 patch 内上下文机制及 patch 处理联系起来，并提供与 ViTs、无 SSM 的 Gated CNNs 对照的安全性研究线索；具体实验协议与机制归因尚未验证。

  2. OpenReview · State space models75

    “总有另一个计数器”：检测恶意与良性代码概率性交错执行场景中的微架构攻击

    基于摘要分析。本文研究攻击者将恶意代码以极低频率交错插入良性代码后，基于 Hardware Performance Counters（HPCs，硬件性能计数器）的防御是否仍能识别微架构攻击。作者提出统计建模与 LLM 检测方法，主张概率性交错并不必然使攻击不可检测。 理论部分使用 Gaussian Mixture Models 与 Dip Test for Unimodality 建模交错攻击；作者声称，在适当选择 HPC 的条件下可证明攻击具有可检测性，并讨论同时交错多种攻击的更强威胁模型。摘要未给出证明假设、计数器选择规则或统计检验的具体实施条件，这些尚需全文核对。 实现部分以 LLM 作为检测工具。作者给出的理由是，LLM 能结合较多 HPC 的上下文，并可通过提示切换统计分析方法；这属于作者的方法动机，摘要不足以确认其相对传统机器学习的性能、成本或稳定性优势。具体 LLM、输入表示、提示、采样与决策流程尚未验证。 作者报告，在摘要列举的 Spectre v1/v2/v3、Meltdown 及采用改进 gadgets 的 Spectre v2 等推测执行攻击实验中，即使交错频率低至 10⁻⁶，仍达到 100% 攻击检测率，并将方法定位于攻击特征可能事先未知的 non-profiled 场景。该结果不能直接外推到任意硬件或负载；实验规模、良性负载构成、数据划分、误报率、检测延迟、基线、消融及统计信息尚未验证。 平台推测（待验证）：其潜在跨领域价值在于从多变量背景噪声中发现稀疏异常成分，而非已验证的 EEG/BCI 解码效果。若探索 EEG 应用，可复用统计分布检验思路，但需重构信号特征、时间窗口与异常定义；低信噪比、非平稳性、跨被试及通道差异可能使混合成分难以辨识，统计多峰性也不等同于目标神经事件。一个可证伪的小实验是在固定被试内划分下，对具有已知事件时间的 EEG 逐步降低目标事件比例，比较该统计思路与简单异常检测基线，并同时记录检出率和误报率。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其“选择适当 HPC 后，低频恶意执行仍可被统计识别”的理论条件及 LLM 检测实现，但摘要报告的 100% 检测率尚需结合误报率、采样窗口和评估协议验证。

  3. OpenReview · State space models73

    探索视觉状态空间模型对后门攻击的鲁棒性

    基于摘要分析。该研究考察 Visual State Space Model（VSS）对后门攻击的鲁棒性，重点分析状态空间模型（SSM）机制与图像 patch 处理如何影响触发器的有效性，并据此研究一种在每个 patch 中重复出现、旨在抵抗 patch 扰动的后门触发方式。 后门攻击使受感染模型在特定触发器出现时输出目标标签，而在正常样本上保持正常行为。作者报告，在所考察的不同触发器与模型对照中，SSM 捕获 patch 内上下文信息的机制使 VSS 比不含 SSM 的模型更容易受到后门触发器影响；另一方面，所测试的 patch 处理方式能够有效破坏这些触发器。逐 patch 重复触发的设计针对这一现象，试图使后门在 patch 扰动下仍然有效。摘要未提供具体触发器形式、投毒过程或 patch 处理操作。 作者报告，在三个数据集及多种后门攻击的实验范围内，VSS 的后门鲁棒性与 Transformers（ViTs）相近，但低于仅堆叠 Gated CNN blocks、不含 SSM 的 Gated CNNs。数据集名称、模型配置、训练与评估划分、投毒比例、攻击成功率及正常样本性能尚未验证，因此不能据此作定量比较或推广到所有 VSS 架构。实验协议、消融及统计信息尚未验证，复现时应重点核对架构对照是否控制了训练条件，以及 patch 处理对正常任务性能的影响。 平台推测（待验证）：如果 EEG 分类模型也采用分段 token 与 SSM 上下文建模，重复的局部触发模式可能形成类似安全风险，但图像 patch 结论不能直接外推到 EEG。可复用的是局部触发、分段扰动与无 SSM 对照的评估思路；需改造的是适合 EEG 时间段及通道结构的触发方式。低信噪比、跨被试差异、通道布局变化和小数据条件均可能改变触发效果。一个可检验的小实验是在固定 EEG 数据划分和训练条件下，对比 SSM 与非 SSM 模型受到单段及重复分段触发时的攻击成功率和正常样本 Accuracy，同时评估分段扰动的影响。相关 EEG 后门研究尚未检索确认。

    阅读价值：该研究通过后门触发器与 patch 处理的对照分析考察 SSM 的安全风险，值得核对其能否区分 SSM 机制本身与其他架构、训练因素的影响。

10月27日周五
  1. OpenReview · EEG70

    使用潜在扩散模型生成合成睡眠 EEG 信号

    基于摘要分析。本研究针对 EEG 数据可用性不足及医疗数据共享受隐私限制的问题，探索结合 spectral loss 的潜在扩散模型，生成睡眠阶段的 30 秒合成 EEG 片段。其核心贡献是将频谱约束引入生成过程，以保持 EEG 特定频带中的结构化振荡。 机制方面，作者强调 spectral loss 对生成符合 EEG 特征的振荡结构至关重要。不过，摘要未提供潜在表示的编码方式、扩散模型结构、频谱损失的具体形式与权重，也未说明睡眠阶段是否作为生成条件；这些实现细节尚未验证。 数据与评估方面，作者使用 Sleep EDFx 和 SHHS 两个大型睡眠数据集训练模型，以 Multi-Scale Structural Similarity Metric、Frechet inception distance 及频谱图分析评估合成信号质量。作者报告，在上述生成质量评估下，模型能够产生具有适当神经振荡特征的逼真信号；摘要未给出指标数值、数据划分、被试内或跨被试协议、对照基线及统计结果，实验协议、消融及统计信息尚未验证。 证据边界方面，作者提出该方法可能缓解 EEG 数据稀缺，但摘要所述信号质量评估不能直接证明合成数据能提升睡眠分期或其他下游任务，也不能据此认定其具备隐私保护能力。复现时需核对预处理、通道配置、潜在编码与训练设置，并验证频谱约束的独立贡献、合成数据的下游效用，以及模型是否记忆训练样本；代码与模型权重的公开情况尚未验证。

    阅读价值：值得关注其以 spectral loss 约束潜在扩散模型生成睡眠 EEG 频带振荡的机制，但合成数据能否改善下游任务及保障隐私尚未验证。