「推理时扩展」共找到 2921 篇相关文章
jiSGLang集成ktransformers：2TB内存运行Kimi K2 Thinking模型
对于内存多但GPU资源有限的用户，SGLang集成ktransformers的CPU内核，支持直接运行Kimi K2 Thinking模型。它无需等量化，还能微调，虽性能与GPU方案有差距，但给用户新选择。
BettaFish微舆：一个多智能体舆情分析系统
BettaFish微舆可依自然语言需求抓取分析30多个主流社交媒体生成舆情报告。它将任务拆解给不同智能体，系统架构清晰，最终整合生成带时间线分析的HTML报告。项目在GitHub开源且登顶趋势榜第一。
Soul APP开源了一款高保真播客生成框架，90 分钟对话零崩盘！
Soul APP背后的Soul AI Lab发布开源项目SoulX - Podcast，是高保真推理框架，能生成90分钟以上连贯对话，有多方言切换等功能，或重塑语音内容产业生产方式。
刚刚，Claude 正式杀入华尔街！
Anthropic 宣布推出 Claude for Financial Services，扩展金融服务功能，有 Excel 插件，还与 Moody's、LSEG 等金融数据平台整合。Citi、RBC Capital Markets 等华尔街巨头纷纷入局。
清华、快手提出AttnRL：让大模型用「注意力」探索
清华和快手团队提出新框架AttnRL，引入注意力机制提升过程监督强化学习效率与性能。它解决传统方法在分支位置选择和采样策略上的效率问题，实验显示在多基准测试中表现优异。
可能是目前效果最好的开源生图模型，混元生图3.0来了
腾讯混元发布并开源原生多模态生图模型混元图像3.0，参数规模80B，是参数量最大的开源生图模型，也是首个开源工业级原生多模态生图模型，效果对标业界头部闭源模型。文中介绍其技术方案、测评效果等。
当万相2.5刚开卷有声视频，7月已经发布音频一体化的百度蒸汽机又开卷长视频了
百度升级MuseSteamer蒸汽机视频生成模型，可生成任意长度视频，生成中能更新prompt交互创作。其技术规划前瞻体系化，成本低，在多行业有应用和商业化空间。
从BM25到Multi-Vector：6种Embedding演进路线
文章介绍从BM25到Multi - Vector的6种Embedding演进路线，涵盖Sparse、Dense等类型，分析其痛点、效果、案例及选型建议，还给出不同场景的方案选择和步骤。
刚刚，OpenAI 发布 GPT‑5-Codex 新模型，专为编程而生
OpenAI 发布专为 Agent 编程优化的 GPT-5-Codex 新模型，在动态思考、性能、代码审查等方面表现出色。同时，Codex 平台大升级，集成 GitHub，保障安全隐私，还公布了定价与可用性。
从BM25到Multi-Vector：6种Embedding演进路线
文章介绍6种Embedding演进路线，包括Sparse、Dense等，分析其特点、痛点、效果和案例，还给出选型建议，如关键词匹配选Sparse，长文本定位选Multi - Vector，也提及方案选择步骤。