「推理部署」共找到 2645 篇相关文章
普林斯顿等高校提出AgentDistill：无需任何训练即可继承大Agent复杂能力，性能提升48%，成本降低90%
在AI领域，大型语言模型智能体计算需求大限制部署，传统蒸馏技术对智能体效果有限。AgentDistill提出解决方案，让学生智能体复用教师智能体的MCP工具包，无需训练继承复杂能力，小模型性能显著提升。
大模型玩不好数独？！Transformer作者初创公司公布排行榜：o3 Mini High“变异数独”正确率仅2.9%
Transformer作者初创公司Sakana AI公布AI解决数独能力排行榜，用全新基准Sudoku - Bench考验大模型创造性推理能力。结果显示大模型总体正确率仅15%，9×9数独中高性能模型o3 Mini High正确率2.9%。
字节版龙虾架构火爆GitHub！开源获35k+ Star，内置Skill全家桶，原生适配飞书
字节开源Deer - Flow2超级智能体管理框架，登上GitHub Trending榜首，获35.3k Star。它采用模块化多智能体架构，主打开箱即用，扩展性强，适配多种IM渠道，还介绍了核心能力、部署方式等。
Emu3.5：能够原生预测下一状态的多模态世界模型，媲美Nano Banana
北京智源研究院推出多模态世界模型Emu3.5，能原生预测视觉和语言下一状态。用超10万亿token数据预训练，后经强化学习训练。团队提出DiDA提升推理效率，其性能媲美Nano Banana，项目已开源。
Mamba-3惊现AI顶会ICLR 2026！CMU知名华人教授一作首代工作AI圈爆红
Transformer有力挑战者Mamba的最新版本Mamba-3进入ICLR 2026盲审。它有三大改进，在长文本处理、实时推理和成本优化有优势。此外，FBAM也从不同角度探索Transformer下一代框架。
8B硬刚72B！MiniCPM-V 4.5技术报告正式出炉
行业首个具备“高刷”视频理解能力的多模态模型MiniCPM-V 4.5技术报告发布，提出三项关键技术，使模型在多任务达同级SOTA，8B参数规模超72B模型，推理快，开源后获社区好评。
Snowflake：企业对AI投资回报率高达41%
全球著名数据库云平台Snowflake发布调查报告，对9个国家超500人企业调查发现，已部署生成式AI企业平均ROI达41%，应用广泛但面临数据挑战，不同行业和区域表现有差异，多数企业计划增预算。
解码加速15倍！EdgeRazor助推大模型在PC/移动端“狂飙”
大语言模型参数膨胀，端侧部署难，量化成主流轻量化方案。开源工具库EdgeRazor由南京大学和微软联合推出，采用MPQAD打破极低比特大语言模型“能力塌陷”，在性能、效率、易用性等方面表现出色，打通AI全生态链路。
让欧美老外彻底“真香”，这家中国割草机器人品牌正在定义一个行业新标准
在CES 2026上，未岚大陆发布割草机器人五大新品，呈现“Navimow标准”体系。其新品实现免部署自动建图，用EFLS™ LiDAR⁺三重融合定位系统应对复杂环境，以Xero - Turn™方案解决伤草问题，定义行业新标准。
iPhone 17 Pro居然能跑8B大模型！
iPhone 17 Pro竟能跑8B大模型，如Qwen3 - 8B，推理较流畅。作者换机一是因eSIM，二为拍视频。其认为AI普及需端侧落地，此机芯片性能是好信号，盼出优质iOS客户端。