「推理部署」共找到 2654 篇相关文章
基础模型已颠覆科研，进入第五范式！港科大综述113篇论文 | NeurIPS'25
港科大论文指出，随着科学问题复杂度提升，传统科研范式显露出局限。基础模型（FMs）横空出世，具备通用性、规模与知识覆盖、推理与生成能力，可能引领科学进入第五范式，但也面临偏见、幻觉等问题。
AI改造出行体验：滴滴的试验能否开启行业范式转变？
滴滴近日面向公众内测上线出行AI助手小滴，颠覆传统打车模式。它能精准理解需求，提供个性化方案，还可进行时空推理和订单规划。滴滴用工程打法攻克难题，还上线MCP服务助开发者定制助手。
AI 应用开发的破局之路：字节跳动 Eino 框架实践
在 InfoQ 举办的 QCon 全球软件开发大会上，字节跳动沈桐介绍 Eino 框架在组件抽象和业务编排的创新实践。该框架以大模型为基础，解决应用开发中节点、信息流转和沉淀框架的问题，还给出开发实例，展望了未来重点方向。
OpenAI 不想再「跪着」买显卡了
《金融时报》消息，OpenAI 正和博通合作自研代号“XPU”的 AI 推理芯片，2026 年量产。其不仅在芯片发力，还在硬件、应用和算力基建多线出击，不过自研芯片也面临资金、人才和软件生态等问题。
SGLang支持GPT-OSS：从Day 0支持到性能增强
SGLang宣布重大更新，聚焦openai/gpt - oss - 120b模型深度性能优化与新功能。预填充和解码阶段吞吐量显著提升，支持多GPU，有推测解码等功能，还支持智能体应用程序，且不损害模型推理能力。
刚刚，DeepSeek最新发文！V3/R1训练细节全公开，信息量巨大
网信办新规生效，DeepSeek回应，标注AI生成内容，公开V3/R1训练细节。介绍训练分预训练和优化训练，深挖数据使用，还谈及推理、开源情况，也提到对抗AI幻觉与滥用风险的措施。
OpenAI高管自爆：Scaling不死，GPT-5「双轴训练」撕开智能天花板
OpenAI首席运营官Brad Lightcap在对话中揭秘GPT-5，其能自主判断是否深度推理再作答，体验全面升级。训练方式有后训练，Scaling Law仍成立，未来从两轴改进。还探讨了AGI、应用场景等。
UNC | 发布Bifrost-1，构建“最强大脑”与“顶级画师”的桥梁，低成本实现“文生图”自由
随着AI发展，打造能推理又能创作的系统成为焦点。但让LLM学习视觉创作面临训练成本高和能力受损问题。BIFROST - 1框架在MLLM和扩散模型间建通信信道，解决核心痛点，实验表现出色。
扩散架构 or「NoThinking」，AI 对话的「1Hz 壁垒」如何突破？
当红通用人形机器人公司 1X 的 AI 副总裁 Eric Jang 提出「智能频谱」概念，阐述当前 AI 面临的「1Hz 壁垒」及实现「Ultra Instinct」能力的先决条件。不同推理方案有望解决部分问题，但通用智能体仍有瓶颈。
革命性突破！Windows-MCP 开源：AI 助手直接操控实体电脑，告别按键精灵！
在AI驱动的桌面自动化领域，传统工具部署复杂且性能受限。最近GitHub开源的Windows - MCP工具，能让AI助手与Windows UI原生交互，可进行点击、输入等操作，支持Windows 7 - 11，无需传统计算机视觉技术。