Kolmogorov-Arnold Networks 的样本效率
Sample-Efficiency of Kolmogorov-Arnold Networks
基于摘要分析。研究针对现实控制与深度强化学习中样本获取成本高的问题,通过 Feynman dataset 和 Gymnasium RL benchmark 的计算实验,系统考察 Kolmogorov-Arnold Networks(KAN)的样本效率,并与 Multi-Layer-Perceptron(MLP)架构比较。 作者将 KAN 描述为能够有效学习控制问题中物理关系、具有较高参数效率和可解释性的架构;本研究关注这些架构特性是否转化为更低的样本需求。摘要未提供具体网络配置、强化学习算法、损失函数、训练预算或采样方式,其机制与实验实现尚未验证。 作者报告,在所述计算实验中,KAN 可用少 40% 的样本达到相近性能,训练过程中出现最高 50% 的相对性能提升,并且观察到的收益对不同程度的奖励噪声具有稳健性。摘要未说明这些数字分别对应哪些任务、性能指标、数据划分和 MLP 对照配置,因此不能将其解读为所有任务的统一收益,也不能将相对性能提升当作 Accuracy 的百分点变化。实验协议、消融及统计信息尚未验证。摘要提供了代码链接,但代码内容、运行环境与复现完整性尚未核验。 平台推测(待验证):可检验的迁移假设是,用 KAN 替换小样本 EEG 解码器中的 MLP 模块可能降低标注样本需求;但原研究涉及物理关系学习与强化学习奖励,既不等同于 EEG 的监督信号,也不等同于 EEG 测量噪声。迁移需适配 EEG 输入表示和解码目标,低信噪比、通道差异、跨被试分布变化及小数据过拟合均可能使收益失效。一个小规模检验是在固定 EEG 特征与被试内划分下,对 KAN 和 MLP 使用相同训练预算、调参资源及递减标注样本量,比较学习曲线,再独立测试跨被试表现。该实验属于迁移验证建议,并非论文已验证结果;已有 EEG 相关工作尚未检索确认。
来源:arXiv · 在线与高效推理 · arxiv.org