Transformer表征不等于实际计算

Ishita Darade、Sushrut Thorat对执行进制位提取任务的Transformer进行因果检验，发现线性探针虽能解码候选算法中间量，但已定位的因果路径并未将这些量传至输出，因此“能被表征”不等于“参与了计算”。模型在三个随机种子下，对留出的数值与进制组合达到99.83%的精确答案准确率。 研究还发现，N、B、D对应的信息路径大多分开、到后期才结合，与探针所暗示的分阶段计算不同。因果行为依赖早期的D选择性信息传递；该传递独立于N和B。

AI 根据报道生成 · 56 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。