「推理系统优化」共找到 4384 篇相关文章
刚刚，GPT-5.1发布，OpenAI开始拼情商
深夜，OpenAI上线GPT - 5.1 Instant和GPT - 5.1 Thinking模型。前者更温暖智能、指令执行强，后者处理任务更高效易理解，语气温暖。模型将逐步推出，还发布系统卡附录。
破局大模型训练黑盒，MegatronApp开源实现万亿参数「可视可控」训练
在2025上海QCon大会上，算秩未来赵伯罕博士指出万亿级大模型训练困境。上海期智研究院和算秩未来联合研发MegatronApp，以低入侵方式补齐链路，其四个模块形成闭环，让训练从黑盒变白盒，项目已开源。
听了Andrej Karpathy最新2小时访谈，我对Agent彻底祛魅了
Andrej Karpathy在播客中表示，Agent发展还需十年，离像实习生工作还差很远，要解决诸多能力问题；他认为强化学习糟糕但其他方法更糟，还提出AI应削减背书式记忆、未来强大AI或仅十亿参数等观点。
24个月，从写第一行代码到破产：一位架构师在47个“死亡”项目里，看到的共同陷阱
架构顾问审阅47家初创公司代码库，发现它们因产品无法扩展、技术债积累走向停滞。提出花两周做架构可避免问题，还指出AI虽降低开发门槛，却加速技术债积累。
0人工参与实现梯度更新！MIT新框架让AI自动生成微调数据，权重自主升级
MIT提出新强化学习框架SEAL，可让模型生成微调数据和自我更新指令，实现权重更新。无需人工，模型能自动梯度更新。经知识注入和小样本学习实验验证效果，还介绍了其双循环工作机制。
2025 年 InfoQ 趋势报告：AI、ML 和数据工程
InfoQ AI ML 趋势报告基于编辑团队与嘉宾播客，总结 AI、ML 技术发展趋势。涵盖 AI 代理、多模态语言模型等创新领域，也提及早期采用者、早期多数、晚期多数类别的技术，还对 2025 年相关领域发展作出预测。
1万亿参数Ling-1T开源，国产LLM牛了~
Ling-1T是Ling 2.0系列首款旗舰“非思维”模型，总参数量达1万亿。预训练数据超20万亿token，支持128K上下文长度。在多项任务中表现出色，是目前已知最大的FP8训练基座模型，已完成全面评测。
北大校友、华人学者金驰新身份——普林斯顿大学终身副教授
华人学者金驰宣布在普林斯顿晋升为终身副教授，任命2026年1月16日生效。他在机器学习理论领域贡献大，为LLM崛起提供数学基石，解决非凸优化和强化学习样本效率等问题。
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。
6.1k星星！这个开源 AI 知识库火了。附教程，简单且实用。
知识管理是刚需，因数据安全问题，本地部署的开源知识库受关注。本文推荐PandaWiki，它是AI驱动的开源知识库搭建系统，安装部署简单，功能丰富，适用于企业和个人。