「推理性能优化」共找到 4171 篇相关文章
告别玄学选LLM！弗吉尼亚理工选型框架入选ICML 2025
弗吉尼亚理工大学研究人员推出选型框架LensLLM，可预测微调后性能走势，解释大模型微调“玄学现象”。它基于全新PAC - Bayes泛化界限推导，降低成本近90%，被ICML 2025收录。
一行代码，Claude成本直降85%！最强Opus做大脑，Sonnet疯狂搬砖
Anthropic深夜发布Claude「顾问策略」，让Opus 4.6当「顾问」，Sonnet/Haiku当「执行者」，实测性能翻倍、成本降85%。还带来Monitor工具更新，加上此前的Managed Agents等，构建完整Agent平台。
推荐 4 个当下爆火的开源项目，Claude Code效率再翻倍
近期Claude Code相关开源库爆火，作者推荐4个项目。badclaude解锁官方工具限制，gstack将AI变虚拟工程团队，claw - code作者机智保下库，everything - claude - code优化AI编程体验。
最近涨疯了，用这个开源项目打造卫星追踪副业！
最近A股市场卫星概念大热，太空产业受关注。Github上有开源卫星可视化平台`keeptrack`，非工程师能轻松用它追踪卫星轨迹，程序员还能二次开发。它功能多、性能好，免费开源。
The Batch: 982 | 法律、新闻和金融领域的定制模型
本文是DeeplearningAI《The Batch》的最新报道，汤森路透推出法律、新闻、金融领域定制大语言模型Thomson，基于Qwen构建，性能优于多款通用大模型，小版本将开源供非商业使用。
无痛使用vLLM的工具来了！
vLLM功能强大但上手门槛高，开源项目vLLM Playground是界面化工具，能解决使用难题。它零配置，集成官方vLLM recipes，内置性能测试，安装简单，对业务团队很友好。
国产GPU组了个开源局，把SGLang等核心开发者都摇来了！
国产GPU玩家摩尔线程举办SGLang × MUSA Meetup，邀请众多开源圈开发者。活动探讨如何让国产GPU进入大模型推理主流开源工程链路，显示国产GPU竞争迈向生态坐标之争。
诺奖获得者Hassabis警告：AlphaGo已觉醒，AGI正接管科研
十年前，AlphaGo击败李世石，让世人看到AI潜力。此后，DeepMind不断推进，其技术从棋盘拓展到科研，如AlphaFold解决蛋白质折叠难题，AlphaProof在数学推理获佳绩，这些成果显示AGI正接管科研。
OpenAI史上最快模型降临，每秒1000Token！代码从此「炸出来」
OpenAI发布GPT-5.3-Codex-Spark，它是专为实时编程设计的超高速模型，生成速度超每秒1000个token，联手Cerebras硬件，重写底座提升性能，在多项测试表现强，ChatGPT Pro用户可尝鲜。
微软介绍了 TypeScript 7 的更新
微软分享 TypeScript 7 最新进展，披露用 Go 重写编译器计划，构建速度最高提 10 倍，降低内存占用。默认启用严格模式，是不兼容变更。开发者看法不一，有人赞性能提升，有人忧工具迁移。