跳到正文
热点事件持续更新

研究者提出用于场景预测的四阶张量注意力模型

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

Jongwook Kim 和 Sangheon Yun 提出四阶张量注意力模型,用于预测场景的下一语义状态,面向视频生成和机器人规划。该模型通过单一 Softmax 联合归一化语义与时间上下文注意力。 在 ROCStories 验证集上,采用每种设置一个随机种子的实验中,该模型在三个匹配配置下的末句交叉熵比自回归一维 Transformer 基线低 2.4%–5.3%。其中 H=4、L=2 配置的两者参数量接近,分别为 172.5M 和 175.9M;在相同两块 GPU 上,四阶模型训练耗时 2.4 小时,基线为 45.2 小时。上述结果来自特定验证集和实验配置。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. arXiv · Machine Learning
    用于语义物理现实的四张量注意力模型

    研究者提出一种四张量注意力模型,通过单一 Softmax 联合归一化语义与时间上下文注意力,用于预测场景的下一语义状态,面向视频生成和机器人规划。在 ROCStories 验证集上,其交叉熵较一维 Transformer 基线降低 2.4%–5.3%;在参数量近似时,训练耗时为 2.4 小时,基线为 45.2 小时。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。