「推理服务基础设施」共找到 2938 篇相关文章
智谱GLM-OCR，0.9B开源即巅峰，复杂文档精准解析
智谱发布并开源GLM - OCR，以0.9B轻量级参数在多项基准取得SOTA。它解决视觉感知难题，具备视觉编码与语言解码协作架构，还可端侧与高并发部署，成本低，推动文档智能化处理升级。
如何科学地“设计”SFT 数据？一次关于 ODA 的完整平台级验证
大模型后训练阶段，SFT数据构建常依赖‘直觉’或‘试错’。上海人工智能实验室OpenDataLab团队发布报告，基于OpenDataArena提出新范式，将数据集构建从‘随机艺术’变为‘确定性工程’，并进行平台级验证。
语言模型内部还藏着众多策略模型？自底向上强化学习重塑底层特征 | 直播预约
现有强化学习工作将语言模型作整体策略优化，研究提出以策略视角审视内部隐藏状态，分析层级和模块级策略，发现不同模型模式差异，还提出自底向上强化学习策略，为研究架起新桥梁。
把RoPE扔掉，AI更能看懂长上下文！Transformer作者团队开源大模型预训练新方法
Transformer架构核心作者之一Llion Jones团队开源新技术DroPE，可丢弃位置嵌入扩展上下文，解决RoPE长序列处理缺陷，在多模型实验中表现卓越。该团队来自Sakana AI，此前还有相关研究成果。
德勤2026技术趋势报告：五大力量正驱动技术和商业进化
德勤《2026技术趋势》报告揭示技术从实验走向商业应用。涵盖物理AI进化、智能体落地、企业重构计算、技术组织架构转变、安全防御等趋势，还提及八大技术演进信号。
悲报！Stack Overflow彻底凉了，比18年前上线首月问题数量还少
曾经的程序员问答圣地Stack Overflow凉透了，如今提问数量比18年前上线首月还少。它曾是Google技术搜索默认落点，巅峰时有180多个子站。AI兴起改变开发者习惯，加上自身问题，使其走向衰落。
谷歌智能体发力：增强版Gemini Deep Research和专属API都来了
OpenAI强势更新，谷歌也没闲着。正式发布增强版的Gemini Deep Research，配套推出DeepSearchQA基准测试集，还发布了Interactions API，这不仅是Deep Research升级，还是Gemini生态的大升级。
为什么你的 Agent 总是出故障？从算力基建到可信熔断的架构生死线 | 直播预告
本次直播集结值得买、商汤、明略三位技术专家，拆解可信 Agent 构建之道。将探讨大模型基础设施、可信 Agent 架构、MCP 协议实战等问题，还会解答观众提问。
腾讯云TencentOS智能运维平台TManager正式发布 | Q推荐
为满足企业运维需求，腾讯云推出 TencentOS Server 首款智能运维管理平台 TManager。它有 30 余项功能，能 AI 智能诊断，内部稳定运行多年，覆盖复杂场景，还赢得标杆客户信任，提升运维智能化水平。
2026，最惨一年？Optimus全员拼到死，清华校友跳槽到特斯拉
苹果核心华人AI科学家Yilun Chen转投特斯拉Optimus团队。马斯克透露AI芯片进展，特斯拉AI软件副总裁预警2026年是艰难一年。同时，部分特斯拉核心工程师出走至初创公司，硅谷投资人看好家用消费级机器人。