「小模型推理能力」共找到 9294 篇相关文章
清华SageAttention3，FP4量化5倍加速！且首次支持8比特训练
清华大学陈键飞团队提出针对BlackWell架构的SageAttention3，实现5倍于FlashAttention的推理加速，首次支持8比特训练。在多种大模型上保持端到端精度，代码将分别于6、7月开源。
香蕉和GPT Image之外的第3条路：华人15人团队造出AI生图黑马
一支不到15人的华人团队推出AI生图模型Uni-1.1，在Arena.ai榜单冲进全球前三。它将推理和生成融入同一模型，创意可控，价格低，已获阿迪等企业认可，未来将拓展到多模态系统。
清华2年前预言，正成为全球共识！Meta等三大AI机构已得出同一结论
全球三家AI研究机构结论曲线斜率几乎重合，而中国面壁智能和清华联合团队两年前提出的“密度定律”与它们一致。该定律改写行业假设，如推理成本下降、端侧智能爆发临近、大模型策略反转等。
没想到，32B清华DeepDive掀翻深度搜索全场的！
文章指出大模型在真实深网搜索场景表现不佳，核心矛盾是缺‘难搜’数据和多轮工具调用 RL。清华 DeepDive 用数据合成造‘难搜’题，端到端多轮 RL 训练，在 BrowseComp 刷新开源记录，迁移能力也强。
Notion 3.0 ｜AI转型最成功的互联网产品是怎么做的？
Notion更新3.0，可视为有所有上下文的通用Agent产品，能调用顶尖模型。它有基础AI能力，如选模型、加上下文等，还升级了Agent创建、MCP等功能，依托生态让提示词可变现。
抛弃预定义Tool，首次提出通过动态工具生成的Agentic多模态Reasoning，破31%涨幅
视觉推理任务中，传统多模态大模型依赖预定义工具，灵活性与领域适应性差。PyVision 框架首次让 MLLM 在推理中实时生成、执行并迭代 Python 工具，在多类任务中显著提升性能，实现范式跃迁。
Qwen3.8-Max首发上线阿里千问AI平台，API服务与Token Plan同步开放
今日，阿里巴巴发布新一代基座大模型Qwen3.8，千问AI平台首发其Max版API服务与Token Plan。Qwen3.8参数量2.4万亿，性能居前列，推理快且能自主编程。API性价比高，平台还为Token Plan用户提供优惠。
重复一下提示词，Gemini准确率竟从21%飙升至97%！
Google Research团队研究发现，重复提示词可让Gemini准确率从21.33%升至97.33%。该策略能提升主流大模型非推理任务表现，在多模型多基准测试中优势明显，且不增加延迟。
一张4090就能爆改！面壁智能MiniCPM-V 4.6开源，1B多模态卷出新高度
今年是AI应用大规模落地年，参数小的端侧模型有特定场景性能优势。5月11日面壁智能开源MiniCPM-V 4.6，参数仅约1B，多模态能力超阿里、谷歌同类模型，还在多维度提升，站稳端侧多模态开源领域。
谷歌Ironwood架构TPU v7：用AI造AI，撼动英伟达芯片帝国
11月25日谷歌云发布第七代定制芯片Ironwood，由AlphaChip设计。它以9.6 Tb/s光互联带宽和1.77 PB共享显存池重构大模型推理硬件基准，挑战英伟达芯片地位，展现AI算力竞争新趋势。