「前缀和计算」共找到 7301 篇相关文章
SGLang Hierarchical Sparse Attention 技术深度解析
阿里云等团队推出面向 Sparse Attention 的分层稀疏化框架，介绍其架构、机制与实践。此框架破解了长上下文推理时的计算与容量瓶颈，以 DeepSeek DSA 集成测试，使推理性能大幅提升，目前项目处于开发阶段。
狂揽53.7K Star！这款强大优雅的终端美化神器，进度条、表格、Markdown应有尽有，绝了！
在Python开发中，默认`print`函数输出单调，影响开发体验。开源工具`Rich`可解决此痛点，它由Textualize团队开发，有富文本和精美格式输出功能，自带表格、进度条等功能，在GitHub获53.7K Star。
谷歌推出 Jules：一款基于 Gemini 2.5 的异步编程智能体
谷歌将异步智能编程助手 Jules 正式发布，它基于 Gemini 2.5 Pro 模型，可执行多种编程活动。采用异步模式，直接接入代码库。测试阶段开发者反馈多，正式版有三种访问层级，但部分用户对其界面和输出质量不满。
英伟达、港大等发布创新KV缓存，实现扩散模型无训练加速
多数开源扩散语言模型推理效率不如自回归模型，英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算，还提出基于置信度的平行解码策略，测试显示能加速且保持生成质量。
1.6K Star！阿里开源 zg：一条命令解决 Agent 时代的本地检索难题。
AI Agent 用 ripgrep 检索常遇难题，因代码命名和自然语言有‘词汇鸿沟’。阿里开源的 zg，将三种搜索能力整合进 CLI 工具，可用于终端与人机交互，还介绍了其安装、建索引及搜索的方法。
奥特曼急了！OpenAI稳坐三年的王座，刚刚被Anthropic踹下去了
2026年5月Ramp数据显示，Anthropic企业市占率34.4%首超OpenAI的32.3%。Anthropic靠按量计费和AI Agent吸金，但也面临利益错配、体验下滑、成本上涨等问题，大模型竞争进入B端深水区。
ICML 2026 | 拒绝盲目猜token，阿里x浙大将投机解码带入弹性预算时代
随着大模型参数规模扩大，推理成本成核心瓶颈。投机解码在高并发下有问题，阿里与浙大学者提出 ECHO，将投机树构造建模为预算调度问题，通过稀疏门控和弹性预算调度提升系统收益。
Meta 143亿挖角后的首个作品：Alexandr Wang 推出闭源模型，杨立坤点赞
沉寂9个月后，Alexandr Wang带队的Meta发布新一代模型Muse Spark。它是原生多模态推理模型，性能媲美Gemini Pro和GPT 5.4，在多领域有应用潜力。不过闭源引争议，且在部分领域有短板。
湾大北交大开源 CutClaw，自动踩点音乐的 AI 智能视频剪辑师！
大湾区大学GVC实验室和北京交通大学团队开源CutClaw，它是模拟专业后期流程的多智能体系统，能实现音乐驱动剪辑，按文字指令自动剪辑，适配多平台，还可解构素材。操作简单，支持多模型。
挑战 Claude Code，9.5 万星！又一款开源 AI 编程神器火了
开源AI编程工具OpenCode亮相，具备原生终端界面、多会话支持，兼容75种以上模型，提供桌面版和IDE插件。它允许沿用付费订阅，内置免费模型，与多种LSP服务器整合，适配多种编辑器，采用‘隐私优先’架构设计。