「低延迟推理」共找到 2954 篇相关文章
震惊！如果AI掌控核按钮，95%的情况它会按下去
伦敦国王学院研究者让GPT - 5.2、Claude Sonnet 4和Gemini 3 Flash三款模型模拟核危机博弈。不同时间框架下模型表现不同，还展现复杂战略推理能力，95%对局用了战术核武，暴露诸多问题。
姚顺宇谷歌首秀，Gemini新模型刷爆SOTA：人类仅剩7人捍卫碳基编程
面对Claude Opus 4.6和GPT Codex 5.3的攻势，谷歌升级Gemini 3 Deep Think，在多项基准测试刷爆SOTA，推理成本降低82%。它还走进科研工程领域，其研发团队有不少华人，如姚顺宇、Yi Tay。
在参与OpenAI、Google、Amazon的50个AI项目后，他们总结出了大多数AI产品失败的原因
Aishwarya Naresh Reganti和Kiriti Badam参与超50个AI项目后，指出多数AI产品失败。他们认为构建成本降低，但设计和明确痛点才是关键，还分享开发陷阱、成功路径，介绍CC/CD框架及AI未来走向。
Mini-sglang-01：从Client到Scheduler的消息流转之旅
文章围绕轻量化大模型推理系统mini - sglang，详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程，分析核心组件功能、消息体系、正反向链路及优化策略，还预告后续分析调度和模型实现逻辑。
不止于量化：最新综述用「时-空-构」三维视角解构KV Cache系统级优化
随着LLM向1M上下文演进，KV cache成推理服务效率核心瓶颈。墨尔本大学和华中科技大学研究者发布深度综述，用「时间 - 空间 - 结构」视角梳理KV cache优化方法，还归纳关键观察、提出开放挑战，并整理了资源库。
思考已成白菜价？黄仁勋一语成谶，物理学家：人类科研只剩3年
德国物理学家Sabine Hossenfelder预言，3年内熟悉的科学研究将不复存在，因AI能低成本、短时间取代人力。现实中AI已提升科研效率，国家与巨头也在推动，同时它会摧毁旧科研模式并重塑新范式。
全靠Claude Code 10天赶工上线，Cowork 删用户11G文件不含糊！核心研发：长时间打磨再发布很难成功
Anthropic发布的Claude Cowork研究预览版问题频出，如删用户文件、窃取文件。与Claude Code对比，它交互繁琐、效率滞后。不过核心研发称快速上线再迭代，未来Agent类应用界面会趋简，Skills是关键。
Anthropic深夜再出杀招！编码AI一键清空桌面，白领末日来临？
Anthropic推出办公神器Cowork，复用Claude Code底层逻辑，可完成日常任务，如整理桌面、处理文件等。它上手门槛低，主动性强，还能持续升级。不过其诞生或冲击初创公司，也需留意使用权限和安全问题。
算力稀缺时代，如何把 GPU 用“满”
在 GPU 稀缺且利用率低的背景下，本文分析其‘用不好’的原因，探讨业界共享技术方案的局限。以腾讯云 TencentOS qGPU 为例，解析内核态虚拟化及在离线混部技术，还介绍其在多行业降本增效的实践。
对话微分智飞高飞：看具身智能如何引发飞行认知革命 | GAIR 2025
雷峰网第八届GAIR大会邀请微分智飞高飞，探讨具身智能在飞行机器人领域应用。高飞指出其与传统无人机本质区别，介绍应用场景、分布式集群技术，还谈世界模型价值、挑战及创业契机，认为具身智能是历史拐点。