「推理效率」共找到 3022 篇相关文章
jiSGLang集成ktransformers：2TB内存运行Kimi K2 Thinking模型
对于内存多但GPU资源有限的用户，SGLang集成ktransformers的CPU内核，支持直接运行Kimi K2 Thinking模型。它无需等量化，还能微调，虽性能与GPU方案有差距，但给用户新选择。
腾讯音乐如何基于 AutoMQ 降低 Kafka 50%+ 成本
腾讯音乐旗下产品产生海量数据，传统自建 Kafka 集群运维复杂、成本高。为此，运维团队选 AutoMQ，将成本降超 50%，提升扩缩容效率，降低运维负担，本文分享其经验。
Soul APP开源了一款高保真播客生成框架，90 分钟对话零崩盘！
Soul APP背后的Soul AI Lab发布开源项目SoulX - Podcast，是高保真推理框架，能生成90分钟以上连贯对话，有多方言切换等功能，或重塑语音内容产业生产方式。
可能是目前效果最好的开源生图模型，混元生图3.0来了
腾讯混元发布并开源原生多模态生图模型混元图像3.0，参数规模80B，是参数量最大的开源生图模型，也是首个开源工业级原生多模态生图模型，效果对标业界头部闭源模型。文中介绍其技术方案、测评效果等。
释放创造力：解密 AI 贴纸生成器的“神级”提示词模板
文章介绍日本网友分享的 Gem 应用，可上传照片生成各种风格贴纸。详细阐述提示词模板概念、规律特点，还给出波普艺术、日式复古火柴盒等多种贴纸风格提示词库及可用情绪列表，最后鼓励读者动手尝试。
黄仁勋出手！45倍性能暴涨，英伟达定义物理AI新纪元
在SIGGRAPH 2025上，英伟达发布「物理AI」全家桶。展示完整生态，含新硬件、仿真平台和AI模型。如RTX PRO 6000服务器显卡性能涨45倍，还推多款模型，应用于多领域，推动物理AI落地。
Github 斩获 16.3k star，Open Lovable 只需1分钟，就能克隆你的任意网站！
Open Lovable 是 Firecrawl 团队开源项目，能通过 AI 聊天将任意网站转化为 React 应用，支持整站抓取与重组。它解决了多类人群痛点，功能丰富，技术架构有优势，在同类对比中表现出色，获 16.3k star。
OpenAI谷歌Anthropic罕见联手发研究！Ilya/Hinton/Bengio带头支持，共推CoT监测方案
OpenAI、谷歌DeepMind、Anthropic联合发表立场文件，提出CoT监测概念，认为是控制AI Agent核心方法。探讨其潜在机遇、局限，还提及不同公司对CoT监测的不同态度，如OpenAI乐观，Anthropic焦虑。
支持持久化知识图谱！多Agent协同的革命性框架
Agent - MCP 是为经验丰富的 AI 开发者设计的多 Agent 协同框架，能解决传统 AI 开发难题。亮点有并行开发、持久化知识图谱和实时可视化协作，可让多 Agent 高效协作，避免上下文丢失和任务冲突。
大模型首次直接理解代码图：不用Agent自动修bug，登顶SWE-Bench开源模型榜单
蚂蚁开源新模型CGM，首创将仓库代码图模态融入大模型，不依赖闭源模型和复杂Agent，仅需4步就能快速定位、生成补丁。它在多个测试基准中领先，技术论文等均已开源。