「大模型推理系统」共找到 9204 篇相关文章

算法论文8

AI生成操作系统新突破!上海交大提出文件系统开发新范式:从此只需写规约

上海交大IPADS实验室团队在自动生成操作系统核心组件上有新突破。面对大模型生成操作系统的难题,提出SysSpec新范式,以规约指导生成,并配套工具链,构建SpecFS文件系统,开发效率提升3 - 5倍。

量子位
产品应用7

阿里,悄咪咪在海外上线全新 Agent Coding 产品

阿里在海外推出 Agent Coding 产品 Qoder,个人版免费试用。随着 LLM 技术发展,AI 辅助编码范式改变。Qoder 探索发挥 AI 潜力、解决开发挑战,有透明化等功能及增强上下文工程理念,还能自动选模型。

特工宇宙
算法论文8

港科联合港中文提出AdaCtrl,自适应可控Reasoning,可降10~90%

港科联合港中文提出AdaCtrl,解决LLM推理的过度思考、算力浪费和响应延迟问题。它有自适应和用户控制两种模式,通过两阶段训练法实现目标,实验效果好,未来或拓展到多领域。

深度学习自然语言处理
算法论文7

有人只用API就猜出了GPT、Claude、Gemini的参数量?社区吵翻了

研究人员李博杰在arXiv发布论文,提出“不可压缩知识探针”评测框架,仅通过黑盒API调用逆向估算LLM参数规模,给出GPT-5.5等模型参数量估算,引发社区广泛讨论与争议。

机器之心
产品应用7

Clawdbot为何大火?

LLM记忆问题是业界难题,Clawdbot采用极简方式破解,用写Markdown实现记忆。其记忆系统优势明显,如极简易用、透明可控等,但也有劣势,像数据扩容能力有限、功能扩展性不足等。

CourseAI
开源动态8

阿里开源SmartResume,简历解析无需手工

阿里在Hugging Face和ModelScope上开源智能简历解析系统SmartResume,能将多种格式简历转为结构化数据,分三阶段工作,性能优于基线方法,为HR和开发者提供工具。

AI工程化
开源动态8

IBM推出轻量多模态文档神器!OCR与QA超GPT-4o,识别率高达98%!

日常文档处理麻烦,现有工具或体积大、算力消耗高,或识别精度不够。IBM 开源轻量多模态文档处理模型 Granite - Docling,仅258M参数,性能超 GPT - 4o,适用于多场景。

开源星探
开源动态8

首个MCP架构、只50行代码就能实现高效RAG的开源框架UltraRAG 2.0

检索增强生成系统(RAG)复杂度提升,使科研人员面临高昂工程实现成本。清华大学、东北大学、OpenBMB等联合推出UltraRAG 2.0,基于MCP架构,降低技术门槛与学习成本,让科研专注创新。

PaperAgent
8

国产GPU组了个开源局,把SGLang等核心开发者都摇来了!

国产GPU玩家摩尔线程举办SGLang × MUSA Meetup,邀请众多开源圈开发者。活动探讨如何让国产GPU进入大模型推理主流开源工程链路,显示国产GPU竞争迈向生态坐标之争。

量子位
产品应用8

OpenClaw 实战:一个人、一台 Mac、六个 AI Agent — 从"能聊天"到"能干活"的工程实战

本文分享 OpenClaw 实战经验,介绍 1 编排者 + 5 专业 Agent 团队运作,阐述上下文管理、记忆成长、多 Agent 协作等核心工程问题及解法,还给出系统搭建步骤和技术栈参考。

阿里云开发者