「超低延迟」共找到 3034 篇相关文章
71.2%的惊人解决率，伦敦大学开源顶级AI代码修复智能体系统
伦敦大学等发布Prometheus AI系统，它将代码库变成知识图谱，解决9种编程语言的GitHub问题。由五个智能体协作，解决率高、成本低且已开源，或为AI编程新方向。
“像把大象塞进冰箱一样困难”，端侧大模型是噱头还是未来？
InfoQ《极客有约》X AICon 直播聚焦端侧大模型，探讨其落地挑战与破局思路。专家指出端侧部署有隐私、可用性等优势，但面临内存、精度等难题。华为、支付宝等分享方案，还探讨应用场景、商业模式及未来趋势。
超越ZIP的无损压缩来了！华盛顿大学让大模型成为无损文本压缩器
华盛顿大学SyFI实验室提出LLMc，利用大型语言模型进行无损文本压缩。基准测试显示其压缩率优于传统工具，且项目已开源。不过，当前版本存在效率、吞吐量等问题，应用范围也主要在自然语言。
DeepSeek V3.1 Base突袭上线！击败Claude 4编程爆表，全网在蹲R2和V4
昨晚，DeepSeek官方悄然上线全新V3.1版本，上下文长度拓展到128k，参数685B，支持多种精度格式。其编程能力突出，在Aider测试中霸榜，性能超越Claude Opus 4，还有成本低等优势。
Kimi K2发布两天即“封神”？80%成本优势追平Claude 4、打趴“全球最强AI”，架构与DeepSeek相似！
国内独角兽月之暗面发布开源模型 Kimi K2，推出两天就在 OpenRouter 超越 xAI 的 Grok 4。它成本优势大，能力泛化和实用性强，编码、Agent 工具调用等方面表现出色，架构与 DeepSeek 相似。
刚刚，Anthropic官方Cluade 5使用指南发布
Anthropic发布Claude 5的Context Engineering官方指南，指出为Claude Opus 5和Claude Fable 5删掉Claude Code超80%的system prompt，在编码评估上无明显损失。还揭示6组范式反转及四类上下文载体新分工。
刚刚，OpenAI 再次开源！安全分类模型 gpt-oss-safeguard 准确率超越 GPT-5
OpenAI 开源安全分类推理模型 gpt-oss-safeguard，有 120b 和 20b 参数量版本，采用 Apache 2.0 许可证。它能直接理解策略文档分类内容，推理能力超 GPT - 5，性价比高，虽有局限但仍是开发者利器。
苹果新作：内化视觉思考，推理提速 5 倍
Apple研究团队提出Internalized Visual Thinking（IVT），一种将预测性世界建模能力内化到模型表征中的后训练框架。它在训练时预测未来，推理时直接回答，相比Visual CoT推理提速超5倍。
开源即登榜！登顶全球前十AI编程智能体，UCL初创团队开源Prometheus
UCL初创团队EuniAI开源AI软件智能体Prometheus，在SWE - bench Verified上Pass@1达71.2%，成绩入官方主榜。它有图结构推理设计，能理解代码，成本低，官网有Demo展示其工程化能力。
多模型共享 GPU 内存，Berkeley 开源新工具
GPU内存利用率低是大模型部署痛点，伯克利Sky Computing Lab团队开源kvcached工具，通过虚拟化技术让多模型共享显存。它引入虚拟内存概念，按需分配，测试显示能提升效率，安装简单、兼容性好。