Loopy：循环语言模型的低比特量化框架

基于摘要分析。该研究关注循环语言模型中共享循环核心的量化误差随迭代传播的问题，提出训练后量化（PTQ）框架 Loopy：根据目标部署循环深度下的最终预测损失选择共享低比特表示，并通过渐进分配校准窗口降低候选配置的评估成本。 核心机制：循环语言模型重复执行共享核心，以较少参数支持迭代式测试时计算。通道缩放与正交旋转可在保持浮点计算等价的同时改变表示的量化质量。作者观察到，量化配置候选的排序可能随循环深度变化，因此浅层评估所得的配置未必适用于实际部署深度。Loopy 以通道缩放和正交旋转参数化候选表示，在目标深度完整执行循环，并依据最终预测损失进行选择；搜索过程中逐步向有潜力的候选分配更多校准窗口，仅使用前向评估。具体损失形式、候选生成与筛选规则尚未验证。 结果：作者报告，Loopy 在八种设置中相对于所比较基线取得最优结果；摘要未列出这些设置及完整对照。在 Ouro-1.4B、W4A4 条件下，作者报告 LAMBADA 困惑度相对 SpinQuant 降低 36.5%，这是相对降幅，不是准确率提升。校准数据、评估划分、循环深度、消融、统计信息，以及内存、延迟和搜索成本的实际收益尚未验证。摘要提供了代码地址，但实现与复现条件尚未核对。 平台推测（待验证）：假设 EEG 模型采用跨迭代共享参数的循环核心，该深度感知量化选择机制可能有助于控制误差累积；这不等于已证实的 BCI 收益。可复用候选搜索与完整目标深度评估流程，但需改造校准窗口和任务损失，以适配 EEG 时序与监督信号。低信噪比、跨被试或通道变化、小规模校准数据可能使候选排序不稳定。可在固定被试内划分和量化位宽下，对比浅层选择与目标深度选择，检验部署深度的预测性能及校准成本；已有 EEG 相关工作尚未检索确认。