「高效推理框架」共找到 3711 篇相关文章
AI修真的一年：学者们怎么看“真智能”？｜甲子光年
甲子光年在年终盛典对话三位学者，探讨AI“真假智能”。学者们提及强化学习、推理、多模态等技术突破，分析研究路径，还谈选择标准与未来期待，指出AI是工程实践命题，真与假关乎信念选择。
梳理SGLang中DP Attention及其Padding问题
作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程，指出padding分max和sum模式，旧版sum padding浪费计算、影响cuda graph使用，v0.4.10后有优化，max padding仍待完善。
奖励模型也能Scaling！上海AI Lab突破强化学习短板，提出策略判别学习新范式
上海人工智能实验室提出策略判别学习（POLAR）新范式，解决奖励模型设计与训练瓶颈。POLAR可灵活适配多样需求，弥补传统奖励模型短板，契合强化微调框架，实验证明其性能和泛化性优越。
文心大模型 4.5 系列正式开源，涵盖 10 余款模型
6月30日，百度正式开源文心大模型4.5系列，含10款模型，实现预训练权重和推理代码全开源。可在飞桨星河社区等平台下载，百度实现框架与模型“双层开源”，技术创新多，性能表现优。
最大的开源GraphRag：知识图谱完全自主构建｜港科大＆华为
香港科技大学KnowComp实验室与香港华为理论部提出AutoSchemaKG框架，可自主构建知识图谱，无需预定义模式。该系统利用大模型提取知识三元组并归纳模式，构建了ATLAS系列知识图谱，经测试表现优异。
Meta「轻量级」KernelLLM颠覆GPU内核生成，8B参数碾压GPT-4o
Meta推出基于Llama 3.1微调的8B参数KernelLLM，能将PyTorch代码转高效Triton GPU内核。实测单次推理性能超GPT - 4o和DeepSeek V3，多次生成得分更高，让内核开发更易上手。
Qwen3.7：智能体新前沿
阿里云正式发布面向智能体时代的Qwen3.7-Max模型，将通过API提供服务。它能力全面，编程、办公、长周期执行等表现出色，适配多框架，在多场景评测中领先，能驱动生产力跃升，还经多实战测试验证实力。
Anthropic 的 Harness 哲学：把 Agent 当牲口，而非宠物
本文分享Anthropic最新两篇博客，介绍其将运维圈“宠物 vs 牲口”哲学用于AI Agent架构设计。旧架构如“宠物”易出问题，新架构脑手分离，把Harness做成可随时重启的“牲口”，降低延迟、提升安全，还提出信任框架。
ICLR 2026｜首个微观世界模型MicroVerse来了，AI开始模拟看不见的世界
过去两年，世界模型成为大模型演进重要方向，但现有模型多聚焦宏观世界。本文提出MicroVerse模拟框架，将研究边界拓展到微观尺度，还推出MicroWorldBench评测基准和MicroSim - 10K数据集，推动AI从视觉模拟迈向科学模拟。
谷歌AI的“心脏”长什么样？读懂TPU就够了
文章介绍了谷歌TPU的发展历程，从2015年为解决AI计算效率瓶颈自研，发展到如今成为谷歌“经济支柱”。还对比了谷歌、英伟达、亚马逊的芯片路线，强调谷歌全栈垂直整合策略使TPU在推理时代优势明显。