「小模型推理能力」共找到 9294 篇相关文章
OpenAI即将发布：开源模型和浏览器
OpenAI将发布AI驱动的网页浏览器挑战谷歌Chrome，或集成代理Operator实现智能网络体验。还准备下周四发布类似o3 mini的开源模型，不再是微软Azure独家。谷歌也可能很快发布Gemini 3。
刚刚，全球视频模型新王诞生了！
天工AI的SkyReels-V4直接登顶Artificial Analysis文转视频全球榜，超越Veo 3.1、Sora 2。其相比之前有两大核心升级，让视频生成从‘生成片段’走向完整视频生产，还应用于短剧平台DramaWave。
快速理解热门LLM大语言模型
本文用通俗易懂方式帮读者理解LLM、Transformer、Prompt等基本概念，介绍大模型API使用，如温度参数、角色设定等，还提及Function Calling、Agent、MCP等内容，并对AI未来发展作出假想。
SGLang 确定性推理实现技术细节笔记
文章围绕SGLang确定性推理展开，介绍其启用方式，详述批次不变性原理与Batch Invariant Ops实现，如Matmul Persistent Kernel设计；还阐述确定性采样、Attention Backend配置、AllReduce改动等，给出环境变量及测试脚本，有完整解决方案。
国产推理芯片，赢了英伟达？
算力市场风向生变，国产算力崛起。政策从资金、市场、规则多维度发力，为国产算力扫清障碍。在推理场景中，国产方案性价比更高。其独特分销体系使贸易环节信息透明度低，步入卖方市场，市场也迎来新局面。
世界模型混战，蚂蚁炸出开源牌
蚂蚁集团旗下蚂蚁灵波发布并开源通用世界模型 LingBot-World，全面开源代码和权重，不绑定硬件或平台。它在多维度有突破，虽有细节瑕疵，但单次生成近 10 分钟连贯视频或刷新纪录，还在 VBench 测试领先。
任意骨骼系统的模型都能驱动？AnimaX提出基于世界模型的3D动画生成新范式
传统3D动画制作依赖骨骼绑定与关键帧编辑，成本高。现有自动化方法有局限。北京航空航天大学团队提出AnimaX框架，结合视频扩散模型与骨骼动画优势，支持任意骨骼拓扑，生成动画质量高、速度快，泛化能力强。
最新研究！大模型“角色扮演”无效了？
沃顿商学院研究测试6个主流AI模型，进行超25000次测试，发现告诉AI扮演专家角色，不会让其回答更准确，反向设定‘低知识’角色有时表现更好，角色扮演不是提高准确性的万能钥匙。
卡内基梅隆大学开源LegoGPT，用AI设计乐高模型
卡内基梅隆大学开源LegoGPT，可依文本提示生成物理乐高模型。它把乐高设计转为自回归文本生成任务，基于LLaMA - 3.2 - 1B - Instruct微调，应用场景广泛，如教育、玩具设计等。
Codex正在重塑传统推理框架开发流程
作者用Codex完善SGLang Diffusion的SKILLS流程，修复诸多bug。让其做benchmark脚本，发现不同rmsnorm性能差异。应用flashinfer rmsnorm遇问题，Codex找出原因并修复，还提升了模型性能，体现强大生产力。