关系组合与平行传输框架
热点事件持续更新
关系组合与平行传输框架
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Aakash Sarkar、Ananya Mukherjee 和 Motoshige Sato 提出基于实体级坐标系对称性的注意力关系组合框架；实验显示，在 parsed CLUTRR 的 4—10 跳任务中，传输式组合比匹配的 Transformer 高 41 个百分点，但强制传输保持等距会低 65 个百分点，在 StepGame 的交换代数任务中则有帮助。 在正交传输下，注意力不变量只依赖实体向量范数和传输后的内积，等变消息限于当前向量与传输向量张成的空间；研究还称，凸胞元读出要精确组合有限群，表示维度须达到该群最小忠实实表示维度。最小宽度实验中 17/17 个种子通过长度 1000 测试，12 个模型可仅凭权重获得截至明确长度的正确性证书。
AI 根据报道生成 · 54 分钟前更新
最新进展10月28日 12:00
《将关系组合视为平行传输：实体级坐标系对注意力机制的约束》报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- arXiv · Machine Learning《将关系组合视为平行传输：实体级坐标系对注意力机制的约束》
研究将每个实体独有的坐标系视为对称性，推导出它对注意力评分、消息形式及关系组合的约束，并分析正交传输下不同读出机制的表示维度门槛。最小宽度下，17/17 个拟合种子通过长度 1000 的测试；在 parsed CLUTRR 的 4-10 跳任务中，传输式组合比匹配的 Transformer 高 41 个百分点，但强制等距性会低 65 个百分点。12 个模型仅凭权重即可获得截至明确长度的正确性证书。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。