表示正确的多目标 LoRA

基于摘要分析。本文研究大模型后训练中的多目标 LoRA 优化：同一有效适配更新可由无穷多组等价低秩因子表示，而优化结果可能随因子表示变化。作者提出完整优化器的“表示正确性”条件，并构建 Quotient Pareto Adaptation（QPA）与 Stiefel Pareto Adaptation（SPA），以消除这种表示依赖。 核心机制是区分两个问题。首先，在多目标决策阶段，作者报告等价因子分解可能改变不同目标梯度之间的几何关系，甚至反转梯度冲突的符号，进而改变基于梯度的方法选出的 Pareto 权重。其次，在更新执行阶段，即便固定相同的有效组合梯度，对等价原始因子进行更新仍可能得到不同的下一步有效模型。因此，仅校正目标权重并不必然保证完整优化过程的表示一致性。 QPA 直接在有效更新的固定秩几何上执行 Pareto 优化；SPA 则是在另一种几何下构造的互补方案。作者还将两者扩展至采用传输一阶矩的动量形式，并报告路径层面的保证。摘要未给出具体目标函数、更新公式、保证成立的条件或计算开销，需结合全文核对。 评估对象为 Qwen 和 Llama 模型的有用性—安全性 Pareto 前沿，并包含外部安全基准。摘要未提供具体模型版本、数据划分、对照方法或定量结果，因而目前不能判断改进幅度及适用范围；实验协议、消融及统计信息尚未验证。 本文的主要研究对象是大模型多目标参数高效后训练，并非 EEG 或 BCI。其表示正确性原则是否适用于 EEG 基础模型的多目标 LoRA 适配仍待评估，不能据现有摘要视为已验证的 BCI 方法；相关 EEG 工作尚未检索确认。