跳到正文
热点事件持续更新

MOSAIC提出模态分区梯度路由架构

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

Aryan Chowdhury、Yizheng Sun、Thomas Carroll 和 Riza Batista-Navarro 提出 MOSAIC 多模态学习架构,通过保留各模态的独立表示、控制模态间交叉注意力,并使用模态专属损失将梯度路由至对应分区,以缓解多任务学习中的任务与模态依赖失衡。 在日常日语对话语料库 CEJC 的四项任务中,MOSAIC 相比融合式基线使平均 macro-F1 提高 7.4 个百分点,同时减少 72% 的骨干网络参数。这些结果表明,该架构在该数据集和任务范围内兼顾了任务表现与模型参数效率。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. arXiv · Machine Learning
    MOSAIC:通过模态分区梯度路由解决多任务学习中的任务-模态依赖失衡

    MOSAIC 提出一种模态分离架构(MOdality-Separated Architecture with Inter-modal Cross-attention),通过保留单模态表示、控制跨模态交互,并利用模态专属损失将梯度路由至对应分区。在 CEJC 数据集的四项任务中,该方法使平均 macro-F1 提高 7.4 个点,同时相比融合式基线减少 72% 的骨干网络参数。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。