「大推理模型」共找到 9496 篇相关文章
OpenCode AI编程实践：利用推理路由低成本开发游戏
文章介绍用 OpenCode 结合 DigitalOcean 推理路由器开发点球大战游戏 PK Shootout。其按任务选模型，多数任务路由到 MiMo V2.5 和 GLM - 5.2，成本约 8.25 美元，远低于只用前沿模型。文中还分析开发各环节及适用场景。
低延迟、高吞吐，LLM优化与高效推理引擎综述
LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
吴恩达来信：开放模型，开放执行框架，开放安全
吴恩达团队用闭源模型做安全审查遇阻，后改用 OpenWorker 框架结合开源权重模型 Kimi K3 和 GLM 5.2 取得进展。他认为开放模型和执行框架能带来更安全系统，开源权重模型舆论战虽胜，但立法层面未胜。
刚刚，霸榜神秘视频模型身份揭晓，原来它就是「David」
几天前登上Artificial Analysis榜首的神秘视频模型揭晓，是Runway最新发布的Gen - 4.5。它树立行业新标杆，在多方面表现出色，但也存在一些视频模型常见的局限性，Runway正探索解决办法。
小模型，大能量！200美金的GPT Pro竟然输给了它？
博主用11个场景深度测试昆仑万维的Skywork R1V4 - Lite，它能做到Gemini 2.5 Pro才能干的事，速度快、成本低。在定位、人物识别、生活实用、专业鉴定、学术研究等场景表现出色，核心突破在于主动图像操作与深度推理。
美团开源新模型，多项能力实测第一
美团发布5600亿参数的LongCat - Flash模型，有创新动态计算机制和高效训练推理架构。它在多项测评中领先，尤其在代理工具使用测试表现出色，还以宽松许可开源，降低使用门槛。
Thinking Machines发布首个产品Tinker ：大模型后训练彻底变天
OpenAI前CTO Mira Murati的Thinking Machines公司发布首个产品Tinker，这是为微调大模型设计的灵活API，能简化LLM后训练过程，让用户专注算法和数据，平台处理分布式训练。它有多种特性，已被顶尖机构采用。
Kimi 大模型训推混部的稳定性与资源优化实战
月之暗面系统工程师黄维啸在 QCon 大会分享 Kimi 大模型训推混部实践。介绍了训推集群挑战，如故障多、资源利用低等，还阐述了全链路稳定性提升、资源高效利用及强化学习混合部署等方案。
用最简单的大模型技术打造一个迁云专家有多难？
文章探讨在云迁移领域用大模型技术“复制”专家80%核心能力。分析标准化方案不足及简单RAG局限，介绍“LX0.1”AI专家助手构建，还提及分层评测、人机协同等优化，最后展望AI在云迁移的未来方向。
116页论文教你「蒸馏」Claude、GPT-5.6：AI社区今天炸了
一篇前沿大模型安全漏洞论文引发热议，指出各大模型 API 设计缺陷，可提取隐藏思维链。同一模型家族安全能力不对称，攻击者可利用此漏洞，还介绍了攻击路径、实验及修复建议。