「AI边缘推理」共找到 11039 篇相关文章
英伟达、港大等发布创新KV缓存，实现扩散模型无训练加速
多数开源扩散语言模型推理效率不如自回归模型，英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算，还提出基于置信度的平行解码策略，测试显示能加速且保持生成质量。
华为盘古首次露出，昇腾原生72B MoE架构，SuperCLUE千亿内模型并列国内第一
当前传统 MoE 有专家激活不均衡问题，华为盘古团队提出 MoGE 解决。基于此架构的盘古 Pro MoE 大模型在昇腾集群高效训练，推理性能强，在 SuperCLUE 榜单千亿内模型并列国内第一，赋能业务落地。
1.6K Star！阿里开源 zg：一条命令解决 Agent 时代的本地检索难题。
AI Agent 用 ripgrep 检索常遇难题，因代码命名和自然语言有‘词汇鸿沟’。阿里开源的 zg，将三种搜索能力整合进 CLI 工具，可用于终端与人机交互，还介绍了其安装、建索引及搜索的方法。
刚刚，Qwen3.8-Flash震撼发布，我们看到了Qwen4的骨架
8月大模型厂商多上调API价格或收缩免费额度，因推理需求增长跑赢算力供给。阿里发布Qwen3.8-Flash并开源，成绩亮眼且价格低。它是Qwen4架构预演，有四大技术创新，提升了模型效率。
一年吃掉一块固态硬盘，Codex日志bug被骂「劣质软件」
OpenAI旗舰编程工具Codex因日志Bug，一年写入量达640TB，耗尽硬盘寿命。该问题4月就有反馈，拖两月才处理，仅减少约85%写入。Codex类似问题至少9个，AI编程工具质量引质疑。
腾讯频繁发大招，这次轮到企业微信了
腾讯近期动作频繁，企业微信迎来大版本更新，有智能助理大圆、记录面聊等功能，还升级了智能“服务总结”和智能文档。这些功能实用性强，解决社群管理痛点，AI 能无缝融入工作流。
一个问题几百美元，DeepMind智能体一次搞定了9个Erdős问题
DeepMind团队的大模型在一次‘测试’中解决9个开放的Erdős问题，还自动验证，解法通过人工审查。其框架AlphaProof Nexus结合大模型与Lean编译器，研究展示了AI辅助正式证明搜索技术潜力。
1个月干完15个月！Claude Mythos猎杀271个漏洞，有的藏了20年
Mozilla深度复盘显示，Firefox团队用Claude Mythos Preview，单月修复423个安全漏洞，超此前15个月总和。它挖出271个漏洞，含180个高危，还找到沙箱逃逸漏洞。此外，Anthropic与OpenAI在AI安全能力竞赛中路线不同。
奥特曼急了！OpenAI稳坐三年的王座，刚刚被Anthropic踹下去了
2026年5月Ramp数据显示，Anthropic企业市占率34.4%首超OpenAI的32.3%。Anthropic靠按量计费和AI Agent吸金，但也面临利益错配、体验下滑、成本上涨等问题，大模型竞争进入B端深水区。
ICML 2026 | 拒绝盲目猜token，阿里x浙大将投机解码带入弹性预算时代
随着大模型参数规模扩大，推理成本成核心瓶颈。投机解码在高并发下有问题，阿里与浙大学者提出 ECHO，将投机树构造建模为预算调度问题，通过稀疏门控和弹性预算调度提升系统收益。