字节Seed团队发现DeepSeek-V4表现随Token位置周期性波动
字节Seed研究人员发现,DeepSeek-V4系列模型的代码补全和长上下文检索表现会随目标信息在输入中的位置周期性变化。代码补全测试中,前置填充长度每4个Token重复一次,错误答案32与正确答案8的概率会明显反转;在128K Token检索测试中,DeepSeek-V4-Flash-Base不同位置的准确率最大相差40.2个百分点。
字节Seed研究人员发现,DeepSeek-V4系列模型的代码补全和长上下文检索表现会随目标信息在输入中的位置周期性变化。代码补全测试中,前置填充长度每4个Token重复一次,错误答案32与正确答案8的概率会明显反转;在128K Token检索测试中,DeepSeek-V4-Flash-Base不同位置的准确率最大相差40.2个百分点。