以扩展 einsum 为中间表示加速概率电路
Speeding Up Probabilistic Circuits with Extended Einsum as an Intermediate Representation
基于摘要分析。本文研究张量化概率电路的执行效率问题,提出以 extended einsum 作为中间表示(IR),在转换到具体执行后端之前应用结构优化,目标是利用标准深度学习编译器未充分利用的计算结构。 概率电路是支持可 tractable 概率推断与表达性生成建模的一类模型。本文的核心机制是将概率电路转换为 extended einsum 表示,在独立于后端的层面整合概率电路与 einsum 程序生态中的优化,再转换至 PyTorch、JAX 或专用内核。其方法价值在于把结构优化放在统一的中间层,而不是仅针对某个后端进行优化;但摘要未说明 extended einsum 的具体扩展语义、采用的优化规则及各规则贡献。 作者报告,将 cirkit 库中的电路转换为该中间表示后,获得了 1.05×–1.55× 的一致加速。摘要未给出对应的电路规模、任务、硬件、数值精度、执行后端及对照基线,因此该区间只能理解为作者所评估设置中的结果,不能外推为所有概率电路或所有后端的普遍收益。编译开销、运行时间测量方式、结果数值一致性、实验协议、消融及统计信息尚未验证。 本文主要研究对象是概率电路的编译与执行优化,而非 EEG 解码或 BCI。材料没有提供其与神经信号任务的具体对应关系,不能据此判断 BCI 有效性;相关 EEG 工作尚未检索确认。复现时需取得具体转换实现、优化配置和原始基准设置。
值得阅读的具体原因是其以 extended einsum 将概率电路的结构优化与后端执行解耦,作者报告了从 cirkit 转换后的加速结果,但加速适用范围与测量条件仍需全文核对。
来源:OpenReview · Representation learning · openreview.net