cs.LG updates on arXiv.org
・LLMの継続的学習(CL)における忘却と脆弱性の課題に対処するため、敵対的摂動を幾何学的制御信号として再利用する手法「AdvCL」を提案。
・局所的平滑化、プロトタイプベースのクリッピング、タスク間アライメントという3つのプラグインモジュールにより、性能向上とロバスト性を両立。
・既存のCLパラダイム(リプレイ、正則化等)に統合可能であり、継続的学習における汎用的な幾何学的制御メカニズムを提供する。
Action: 継続的学習プロジェクトにおいて、AdvCLの3つのモジュール(Intra-Smooth, Proto-Clip, Inter-Align)を既存の学習パイプラインに統合し、忘却耐性の向上効果を検証する。