「大模型推理系统」共找到 9182 篇相关文章
我押注12亿美元买下当年移动界的“OpenAI”，却眼睁睁看它49天夭折
本文讲述 WebOS 系统兴衰史。惠普前 CTO Phil McKinney 力主 12 亿美元收购有潜力的 WebOS，但因 CEO Leo Apotheker 决策失误，系统 49 天夭折。这警示决策需系统性思维框架。
作业帮基础观测能力之一监控体系实践
本文介绍作业帮监控体系实践。其监控体系随云原生成长，支持全集群监控。构建时选 Prometheus 采集、VictoriaMetrics 存储，还从多维度采集指标，用自研代理降成本、治理指标，让系统更贴合研发。
1052篇文献！上海AI Lab发布科学LLM综述：从数据基础到Agent前沿
上海AI Lab主导，25家研究机构共同梳理270+训练集、190+评测集，提出科学数据分层框架与智能体闭环科研新范式。还介绍了模型演进、数据情况、评估基准等，指出数据缺陷并展望走向科学家智能体的三步。
Qwen3.6-27B 开源：小小身材，超级码力
阿里云宣布开源 Qwen3.6-27B 多模态模型，支持多模态思考与非思考模式，在智能体编程方面超前代旗舰 Qwen3.5-397B-A17B。它已在 Qwen Studio 上线，开源权重可从 Hugging Face 和 ModelScope 下载，阿里云百炼 API 即将支持。
刚刚，创智+模思发布开源版Sora2，电影级音视频同步生成，打破闭源技术垄断
今天上午，上海创智学院 OpenMOSS 团队与模思智能发布端到端音视频生成模型 MOVA，它是中国首个高性能开源音视频模型，能实现音画同出，全栈开源打破闭源技术垄断。
硅谷热议：最快语音转文字模型
AI语音独角兽ElevenLabs发布Scribe v2 Realtime实时语音转文本模型，实现150毫秒超低延迟、93.5%高准确率，覆盖90多种语言，打破速度与精度不可兼得困境，此前该领域痛点多。
Zero-RAG，对冗余知识说“不”
文章指出大语言模型知识冗余，RAG 检索效率低。复旦大学邱锡鹏提出 Zero - RAG，能精准识别并剪除冗余知识，砍 30%语料准确率掉点小，检索延迟降 22%，还介绍了其技术方案。
谷歌开源非结构化数据抽取工具
谷歌开源 Python 库 LangExtract，用 LLM 从非结构化文本文档提取结构化信息。它定位精确、输出可靠，针对长文档优化，有交互式可视化，支持多模型，适应多领域，还给出快速开始示例。
Self-Evolving Agents，AI的“自我革命”
LLMs静态性成应用瓶颈，自演化智能体成破局关键。本次分享的综述围绕演化什么、何时演化、如何演化三个核心问题展开，介绍了模型、记忆等方面的演化内容、时机和方式。
狼人杀AI对决：手把手教你打造高分Agent
作者参加AI狼人杀比赛，分享构建高分Agent全过程。介绍比赛规则、题目挑战及解题思路，阐述Agent基础能力，如缓存、并发集成等，还提及模型调优、战术策略，最后开源代码，分享心得体会。