在神经网络验证中应用残余推理
On applying residual reasoning within neural network verification
基于摘要分析。本文研究神经网络形式化验证的可扩展性问题,提出在基于抽象的验证流程中引入残余推理(residual reasoning),将验证抽象网络时获得的信息复用于精化后的网络,减少重复搜索。其主要对象是神经网络验证算法,而非 EEG 解码或 BCI 系统。 抽象—精化方法先构造较小的抽象网络;在满足相应正确性关系时,对抽象网络的验证结论可用于保证原网络的正确性。当抽象网络无法通过验证时,流程需要精化并增大待验证网络。本文针对每次精化后重新验证、难以利用既有搜索成果的问题,保留能够确定精化网络行为正确的搜索空间区域,使后续验证集中于仍可能发现错误的区域。这里的 residual reasoning 指验证信息复用,不是残差网络结构。 作者报告已将方法实现为 Marabou 验证器的扩展,并获得积极结果;摘要未提供基准、网络规模、验证属性、运行时间或对照数据,因此不能量化其收益。跨精化步骤复用信息的有效条件、具体实现、实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 解码网络需要针对明确输入扰动集合验证输出性质,该机制可能用于减少抽象—精化验证中的重复计算;可复用的是验证搜索信息,需改造的是 EEG 输入约束、待验证性质与网络算子支持。低信噪比、跨被试和通道变化可能使输入集合难以合理界定,形式化保证也不等同于真实场景的解码有效性。一个可检验的小实验是在同一小型 EEG 分类网络、固定扰动集合和相同验证属性下,对比启用与禁用残余推理的 Marabou 扩展,核对结论一致性、耗时及超时情况。已有 EEG 相关工作尚未检索确认。
值得关注其在抽象—精化过程中复用已验证搜索区域的机制,但加速幅度、适用网络及用于 EEG/BCI 安全验证的价值尚未验证。
来源:OpenReview · State space models · openreview.net