「高效推理框架」共找到 3726 篇相关文章
GEO中，llms.txt是个啥？
GEO中llms.txt是新兴网络标准提案，分提案A（访问控制）和提案B（推理指导）。提案A类似robots.txt，控制内容用于模型训练；提案B是Markdown文件，助LLM理解网站。作者整理指南分享，盼业内出标准。
GPT-5编程专用版发布！独立连续编程7小时，简单任务提速10倍，VS Code就能用
OpenAI推出GPT-5-Codex特化版模型，支持独立连续编程7小时，有IDE插件版。新模型有“真·动态思考”能力，简单任务提速10倍，复杂任务推理更久。还重构了Codex产品体系，升级IDE扩展等。
文心X1.1发布！这三大能力突出，一手实测在此
百度深度思考模型文心X1.1升级上线，在事实性、指令遵循、智能体等能力显著提升，实测表现佳。WAVE SUMMIT 2025大会还发布开源模型ERNIE - 4.5 - 21B - A3B - Thinking等，飞桨框架也升级到v3.2。
智能体新范式Chain-of-Agents，多项任务新SOTA
论文提出Chain-of-Agents (CoA) 范式，结合多智能体系统与工具集成推理优势。通过多智能体蒸馏和智能体强化学习训练智能体基础模型（AFM），实验显示其在Web和Code任务上达新SOTA，效率、泛化性佳。
Kimi 大模型训推混部的稳定性与资源优化实战
月之暗面系统工程师黄维啸在 QCon 大会分享 Kimi 大模型训推混部实践。介绍了训推集群挑战，如故障多、资源利用低等，还阐述了全链路稳定性提升、资源高效利用及强化学习混合部署等方案。
我们都错怪GPT-5了，路由统一算力，免费用户也能创造收益
GPT - 5发布后，其路由架构备受关注。开源社区的Arch - Router类似其路由系统，能结合任务领域和动作制定策略。GPT - 5路由框架可平衡成本与性能，还能转化免费流量，未来想掌控用户与模型交互路径。
拿下3D生成行业新标杆！昆仑万维Matrix-3D新模型鲨疯了，一张图建模游戏场景
昆仑万维推出3D世界生成框架Matrix - 3D，能从单图像生成高质量、轨迹一致的全景视频并还原可漫游3D空间。它优势明显，还突破多项技术难题，背后是昆仑万维对空间智能的战略布局。
小红书团队开源dots.ocr：文档解析新王者，性能比肩Gemini！
文档解析领域处理多语言复杂文档需高效能力，传统OCR工具存在不足。小红书HiLab开源多语言文档解析模型dots.ocr，基于1.7B参数视觉语言模型，性能达SOTA，单页PDF处理快，公式识别媲美大模型。
阿里AI 重磅第4发：电影级MOE 视频模型Wan2.2正式开源！
阿里通义团队开源电影级视频生成模型Wan2.2，将光影、色彩、镜头语言装进模型，支持60多参数自由组合。它是业界首个用MoE架构的视频生成模型，推理省计算资源，性能超主流模型，获国外网友盛赞。
【博客转载】CUDA Cooperative Groups
文章介绍CUDA cooperative groups，它让开发者创建和管理能同步通信的线程组，为GPU并行算法编程提供更灵活高效方式。文中讨论并行归约算法及用cooperative groups的实现，还对比不同归约求和方法及性能。