Llama都在用的RoPE（旋转位置嵌入）被扩展到视频领域，长视频理解和检索更强了。 复旦大学、上海AI实验室等提出VideoRoPE，并确定了将RoPE有效应用于视频所需的四个关键特性。

CODEI/O训练之后，Qwen-Coder在代码理解任务上取得了突破性进展，并且在阅读理解和推理任务 （如DROP） 上也有明显提升，这表明通过代码训练获得的推理能力确实 迁移到了其他领域 。