搜索：Kimi Delta Attention

「Kimi Delta Attention」共找到 233 篇相关文章

视频世界模型困在像素网格里：腾讯开源SCoPE，用射线空间重写位置关系

香港大学、香港科大与腾讯ARC Lab联合提出SCoPE，让视频模型处理位置关系的基底从张量网格转向射线空间。它将相机射线坐标注入Video DiT，新增参数不到原模型0.1%，多方面表现获改善。

大语言模型发展中，上下文长度成关键瓶颈，主流架构计算开销大。清华刘知远团队提出《InfLLM-V2: Dense-Sparse Switchable Attention for Seamless Short-to-Long Adaptation》，提出可切换注意力框架，为长上下文研究提供新思路。

昨天开源社区热闹非凡，Kimi 发布 K2.5，DeepSeek 则推出 DeepSeek - OCR - 2，用 LLM 架构替换传统 CLIP 视觉编码器。它核心创新是视觉因果流，能智能规划阅读路径，性能高效且全量开源。

Claude Code 源码泄露后，kimi Agent 团队何宇峰大佬的 NanoCoder 项目，用 950 行 Python 代码重写其核心机制。它实现 7 种关键设计模式，可助理解顶级 AI 编程 Agent 核心设计，还能按需修改。

本文围绕中国开源模型展开，介绍了 Cursor 使用 K2.5 模型事件，阐述了开源模型供应链，分析了中国开源模型受欢迎原因，探讨小公司技术机会，还提及开源面临的挑战及未来趋势，指出其正改变全球 AI 基础设施格局。

作者为解决用Seedance 2.0写分镜提示词难题，手搓Seedance Storyboard Skill。它能引导用户完成分镜细节，输出专业提示词。作者实测4种风格案例效果佳，还介绍了Skill原理、安装使用方法。

2017年《Attention Is All You Need》提出Transformer架构，重塑AI版图。其作者“Transformer八子”中，Lukasz Kaiser加入OpenAI，参与GPT-4、GPT-5等研发。他10月将出席大会分享见解，曾预言多模态等趋势已渐成现实。

Hugging Face 发布新功能，让开发者在 VS Code 的 GitHub Copilot Chat 中直接接入 Inference Providers，可调用 Kimi K2 等开源大模型测试，无需频繁切换平台。该功能有统一 API 等优势，定价门槛低。

据报道，特朗普政府起草新出口管制规则，拟限制中国企业远程调用第三国先进AI服务器。规则或与Kimi K3模型有关，美国试图将硬件控制延伸到算力使用权，但面临法律界定、执行等难题。

OpenAI叫停Sora 2项目，同期北京AI初创公司Sand.ai在GitHub连续三天开源核心技术栈，包括音视频同出大模型、分布式Attention组件、全局编译框架，还介绍了团队和产品，展现全栈实力。