「推理缓存优化」共找到 3050 篇相关文章
第二代InfLLM开源，同尺寸快三倍！零参数，可训练稀疏注意力
新智元报道，清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2，仅用5B长文本词元就能完成训练，相比稠密注意力机制有显著加速，性能接近传统稠密模型。
半导体材料巨头涨价“突袭”！涨幅高达30%！
日本半导体材料巨头Resonac宣布，对覆铜层压板与黏合胶片全系列产品提价超30%，2026年3月1日生效。调价受原材料紧张、成本上升等因素驱动，其看好市场前景，此次调价或影响下游产业。
本周推荐的5个超级6的Github开源项目！
文章推荐了5个Github开源项目。如htmx，能在纯HTML搞定多种交互，无需JS；Flow.Launcher可快速搜索文件、启动应用；Maple Mono是编程字体，中英2:1对齐；Trilium Notes是分层笔记神器；Hyprnote可实时转录会议内容。
手机跑多模态也能快到飞起！面壁MiniCPM-V 4.6开源
面壁智能开源多模态模型MiniCPM-V 4.6，以低算力成本、超低首Token延迟打通三大主流手机操作系统。它算力瘦身性能强，是视觉语言多面手，还适配主流系统，降本增效，让AI能力从云端到指尖。
Pinterest 部署生产级模型上下文协议生态系统，赋能 AI 智能体工作流
Pinterest 工程团队搭建内部模型上下文协议（MCP）生态系统，驱动 AI 智能体，实现工程任务自动化。架构上线生产级服务器等，替换零散对接方式，让语言模型调用工具、访问数据，还能执行多种任务。
Wan 2.6 发布，可以参考视频进行角色扮演 & 终于有积分了：每天 150
Wan 2.6发布，积分从每天10个提升到150个。更新了主演、多镜头叙事、图像生成等新功能，如可将参考视频角色放入新场景，简单提示自动生成多镜头叙事视频等。
PaperDebugger：开源的学术版Cursor
PaperDebugger是AI驱动的学术写作助手，能调试和改进论文，提供智能建议。它用基于MCP的编排引擎，模拟学术流程，有聊天、插入、评论等功能，只读取项目，保障隐私。
金山、Zilliz、腾讯、灵犀量子专家齐聚，揭秘 AI 记忆、RAG 演进与自我进化的工程实践 | AICon
2025 年构建复杂 AI 系统面临记忆缺失、检索瓶颈、认知固化等系统工程挑战，Context Engineering 是关键。AICon 北京站邀金山、Zilliz、腾讯、灵犀量子专家，分享上下文工程技术实践。
Kimi开源又放大招！20秒更新万亿参数的中间件来了
Kimi开源出新中间件checkpoint - engine，让Kimi K2万亿模型参数进入“秒更时代”。它能支持一次性发送更新权重，实现点对点动态更新，在K2中发挥重要作用，还可抵御单点故障。
Cursor这波1.0升级，真的要把程序员饭碗摔碎了~
今天Cursor 1.0硬核发布，跨越多个版本。它集成主流MCP、Memory、Agent技术，有BugBot自动代码审查等功能，支持Jupyter Notebook集成，聊天界面体验也更丰富，大幅提升开发生产力。