用于语义物理现实的四张量注意力模型

研究者提出一种四张量注意力模型，通过单一 Softmax 联合归一化语义与时间上下文注意力，用于预测场景的下一语义状态，面向视频生成和机器人规划。在 ROCStories 验证集上，其交叉熵较一维 Transformer 基线降低 2.4%–5.3%；在参数量近似时，训练耗时为 2.4 小时，基线为 45.2 小时。