首页 > 新车生活 > 新车生活 > FDA对偶锚点:模型知识迁移的新视角——从参数空间到输入空间

FDA对偶锚点:模型知识迁移的新视角——从参数空间到输入空间

发布时间:2025-11-14 20:06:31

该项工作的作者分别是来自香港中文大学的博士生施柯煊,来自西湖大学的助理教授温研东,来自香港中文大学的计算机系助理教授刘威杨。

当前,基于通用基础模型进行任务特定微调已成为主流范式。这种范式虽然能够在各个特定任务上获得高性能的专家模型,但也带来新的挑战:如何将这些特定微调得到的专家模型的能力有效整合到单一模型中并且无需访问原始训练数据,实现多任务协通,同时最小化性能损失?

针对这一问题,研究者们提出了FDA(Model Merging with Functional Dual Anchors)——一个全新的模型融合框架。与传统的参数空间操作不同,FDA 将专家模型的参数知识投射到输入-表征空间中的合成锚点,通过功能对偶的方式实现更高效的知识整合。

新车生活更多>>

谷歌Gemini赋能!iPhone将迎来超10项智能新功能 追觅科技与央视春晚官宣战略合作!追觅洗地机将与全球观众共贺新春 国产HDMI2.1协议分析仪交付华为!软硬件完全自主知识产权 17系列挑大梁Air疲软 苹果Q4国内出货暴增28% 6.32英寸小钢炮来袭:一加15T入网搭载骁龙8 Elite Gen5,3月见 腾讯音乐“守城”,汽水音乐“改道” 消息称阿里旗下芯片公司平头哥拟独立上市,阿里未作回应 探访郑州具身智能机器人实验室 AMD也要减少GPU供应!重点转向RX 9070 XT:价格更好调整 Setapp Mobile iOS应用商店将于2月16日关闭 为直播间卖食品“划红线、立规矩”(政策问答·回应关切) 机器人终于能用明白洗碗机了|UC伯克利新研究 押宝哪吒,国潮又杀出第一股 SK海力士、三星加速HBF商业化进程 “HBM之父”:最快明年用于英伟达产品 谷歌Pixel 10a手机渲染图及规格曝光,起售价500欧元 iPhone 18系列与Air2屏幕配置曝光,Pro型号将引入屏下Face ID技术 2025年苏州年人均使用快递量超600件 端到端智驾新SOTA|KnowVal:懂法律道德、有价值观的智能驾驶系统 荣耀Magic8系列入选“年度科技创新--AI智能体先锋案例” 2026年新机“Turbo大战”?一加、Redmi、iQOO谁能笑到最后 摩托罗拉首款大折叠手机Razr Fold渲染图曝光,支持手写笔 2026年实测:iPhone 14 Pro Max凭什么还是\"钉子户神机\"? 现在算华为想国内手机销量过六千万,畅享和nova需要占一半才行? 背靠上汽好乘凉?智己2025销量解读:技术换销量,盈利换未来 老车主破防 抢先试驾2026款岚图梦想家 沃尔沃冰封40天,硬核挑战“沃标” 全新雷克萨斯LM KUHL版官图发布 姿态迷人 霸气十足 装车了!红旗的全固态电池研发进展明确领先一个身位 丰田“自砍一刀”,B级车从16.98万降到9.38万,能打过国产车? 新车到店,纯电210km,比亚迪秦L 、秦PLUS DM-i长续航版正式上市