「推理服务基础设施」共找到 2938 篇相关文章
就是阻击OpenAI，Claude抢先数十分钟发布Claude Opus 4.1
就在Sam Altman官宣两个开源推理模型前半小时，Anthropic抢先发布新模型Claude Opus 4.1。该模型能力提升，适用多平台，定价公布，企业用户反馈良好，还提供混合推理模式，不过订阅费遭吐槽。
告别单一大模型依赖！北航等机构发布综述：大语言模型集成（LLM Ensemble）
北航等机构发布的论文系统性回顾了LLM Ensemble领域进展，介绍分类法、相关问题、方法、基准、应用和未来方向。LLM Ensemble指推理阶段综合利用多模型优势，现有推理前、中、后三大集成范式。
机器人“真干活”，为什么宁德时代选择了银河通用？｜甲子光年
宁德时代与银河通用签署全球战略合作协议，推动具身智能机器人在全球市场拓展及规模化应用。银河通用重载机器人Galbot S1已在宁德时代产线作业，其核心技术“银河星脑”能让机器人适应复杂环境。双方还在服务体系上合作，补齐规模化部署短板。
秋招超强助攻：零基础1小时上手GPT微调！全流程教程免费开源
新一年秋招季，岗位对AI能力要求提升。OpenAI发布新开源大模型GPT - OSS，博主Lorentz Yeung开源本地部署和微调训练GPT - OSS的教程，助零基础者上手，还介绍环境搭建、代码和训练前后效果对比。
LLM「拒绝回答」难题有救了！最新研究让AI学会人情世故 | COLM'25
最新研究发现模型规模和通用语言能力与处理敏感内容判断能力无直接关联，开源模型表现不错。通过提出的训练方法，在非推理和推理型模型上缓解过度拒绝问题，提升AI实用性和可靠性。
单目3DGS迎来突破：影石开源UniSHARP实现全相机适配
影石研究院发布单目新视角合成模型UniSHARP，可通过单次推理秒级获场景高斯点云，支持混合相机训练与免标定推理，适配所有相机。团队还构建数据集、设benchmark，代码等均已开源。
Agent 正在终结云计算“流水线”，Infra 必须学会“思考” | 专访无问芯穹夏立雪
InfoQ 专访无问芯穹联合创始人夏立雪，他分享了面向 Agent 的基础设施建设进展与经验，探讨从“处理”到“思考”的范式转变对基础设施的冲击，指出 Agent 规模化落地阻碍及解决办法，还谈及 Agentic Infra 等内容。
狙击Gemini 3！OpenAI发布GPT-5.1-Codex-Max
Gemini 3力压全场，OpenAI发布GPT-5.1-Codex-Max应对。它突破上下文窗口限制，能连续工作超24小时，在METR达新SOTA，推理更快，还推出xhigh推理力度选项，已支持与多种工具结合。
谢赛宁团队新基准让LLM集体自闭，DeepSeek R1、Gemini 2.5 Pro都是零分
纽约大学等8家机构研究者提出LiveCodeBench Pro竞技编程基准测试，评估了Gemini 2.5 Pro等前沿大模型。发现当前模型有显著不足，在无外部工具时，高难度题通过率为0，LLM与人类大师级水平差距明显。
不用花Anthropic API的钱，本地跑Qwen3.5就能用Claude Code
文章介绍不花Anthropic API的钱，用本地Qwen3.5跑Claude Code的方法。包括选模型、编译安装llama.cpp、下载量化模型、启动本地服务、配置Claude Code指向本地服务等步骤，还提及踩坑建议和使用方法。