「分布式推理系统」共找到 3622 篇相关文章
1.58bit不输FP16！微软推出全新模型蒸馏框架，作者全是华人
微软推出蒸馏框架BitNet Distillation，实现几乎无性能损失的模型量化。它含三阶段，经实验在多下游任务表现近全精度模型，降内存开销、提推理速度，作者全是微软研究院华人。
北大彭一杰教授课题组提出RiskPO，用风险度量优化重塑大模型后训练
北大彭一杰教授课题组提出 RiskPO，解决大模型后训练陷入「均值陷阱」问题。它将风险规避理念融入优化目标，用「关注奖励分布左尾」替代「追求整体均值」，在多领域数据集上表现超越 GRPO 等。
100美元、8000行代码手搓ChatGPT，Karpathy最新开源项目爆火，一夜近5k star
AI大神Andrej Karpathy发布开源项目nanochat，可教你100美元自建ChatGPT，覆盖LLM训练和推理。项目有8000行代码，不到12小时获超4500 star，功能丰富，但他认为它不适合个性化应用。
大模型追逐星辰大海，GPT和Gemini国际天文奥赛夺金
新论文以国际天文学和天体物理学奥林匹克竞赛 (IOAA) 为基准测试，证明 GPT - 5 和 Gemini 2.5 Pro 能在天文奥赛获金牌。研究还分析不同模型表现、与人类成绩对比及错误类型，强调需全面评估模型科研潜力。
让YOLO飞起来：从CPU到GPU的配置指南
文章指出默认安装的YOLO用CPU计算，处理大量图像或实时检测任务效率低。详细介绍将YOLO从CPU模式切换到GPU模式的步骤，对比性能，还给出常见问题解决办法，能显著提升运行效率。
国产大模型新SOTA：蚂蚁万亿级旗舰模型赶超GPT-5
蚂蚁集团开源万亿参数旗舰大模型Ling-1T，属Ling 2.0家族。它激活比例低降低运算成本，训练有“Ling缩放定律”等方法，多项测试超主流模型，不过处理超长上下文成本较高。
Google封神，计算机视觉的GPT3时刻来了！
Google Deepmind称在CV领域做出类似GPT-3的成果，Veo 3经大规模训练涌现通用视觉理解和推理能力，能以图片+提示词完成复杂视觉任务，还具备感知、建模等四大超能力。
微软公开预览可充当 MCP 服务器的 Logic Apps
微软宣布 Azure Logic Apps（标准版）公开预览新功能，可充当 MCP 服务器，为开发者构建和管理代理提供灵活方式。MCP 是开放标准，让 LLM、AI 代理等与外部系统交互，此功能好处多。
突发！Meta刚从OpenAI挖走了清华校友宋飏
刚刚，OpenAI前高层研究员宋飏加盟Meta Superintelligence Labs任研究负责人，向赵晟佳汇报。此次人事流动或透露出Meta在AI竞赛中释放的三重信号，如MSL人才拼图更完整等。
陶哲轩长文剖析现代社会：大型组织挤压小型社群，个体陷入疏离困境，AI正在加速这一进程
陶哲轩长文以协作式数学项目社群现象为切入点，提出观察现代社会的框架。指出现代技术和激励体系在赋能个体与大型组织时，严重削弱小型组织，导致个体精神上出现脱节感，AI还在加剧这一问题，并给出新兴草根组织视角。