「大模型推理」共找到 9477 篇相关文章
华为| 祭出FlashComm1，FlashComm2、FlashComm3，解决LLM推理通算瓶颈
在大模型推理面临通算难题背景下，华为数学家祭出FlashComm 1、2、3。如FlashComm 1优化AllReduce通信，提升推理性能；FlashComm 2重构计算流程，提升推理速度；FlashComm 3实现多流并行，激增模型吞吐。
全能高手&科学明星，上海AI实验室开源发布『书生』科学多模态大模型Intern-S1 | WAIC 2025
7月26日，上海AI实验室在WAIC 2025上发布并开源『书生』科学多模态大模型Intern-S1。它首创‘跨模态科学解析引擎’，在多学科专业任务上超越顶尖闭源模型，多模态综合能力领先主流开源模型。
豆包大模型 Seed 2.0，有点不一样
大模型升级频繁令人审美疲劳，但豆包大模型Seed 2.0不同，其核心是Skills调用能力。作者测试了它做的小红书长图文排版生成器和古文翻译器，还体验了APP“专家模式”，展现多模态理解优势。
被 AI 大厂逼至绝望，这帮欧洲人发起了一场“科学复兴运动”
AI前沿成果被科技巨头锁在“黑箱”，欧洲科学家、工程师等发起“科学复兴运动”成立LAION。他们构建开放数据集，训练出表现优异的模型，还进行“爱丽丝梦游仙境”研究测试大模型，探讨推理模型发展方向。
具身智能奇点已至！超越π*0.6，极佳视界自我进化VLA大模型拿下世界第一
极佳视界具身大模型 GigaBrain-0.5M*依托世界模型实现自我进化，在多真实任务近 100% 成功，超 π*0.6 成 SOTA。其提出基于世界模型的强化学习范式，用超万小时数据训练，推动通用具身智能发展。
大模型如何赋能 Web 渗透测试？
文章指出传统Web安全检测有局限，而大语言模型（LLM）可提升漏洞发现覆盖率与准确性。以mcp server为基础介绍自动化漏洞检测方案，还分享实践操作、遇到的问题及解决办法，分析其优缺点并给出拓展思路。
对话百度文库：不做大模型能直接做的事，能力积累换来竞争壁垒｜AI产品Time
百度文库从文档检索平台转型为一站式AI内容获取和创作平台，付费用户超4000万，AI MAU近亿，智能PPT访问量全球第一。访谈中，负责人分享产品理念、优势及运营经验，如不走大模型能直接做的事，从用户需求出发开发功能等。
不改模型、不降质量，谷歌让Gemma 4快了3倍：本地跑大模型彻底变天
谷歌给Gemma 4家族更新Multi - Token Prediction推测解码架构，推理速度最高提升3倍且输出质量不变。介绍了LLM推理慢的原因、MTP解决办法、对开发者的利好、技术细节、使用方式等。
基于闪电注意力机制，创新高效开源大模型
传统Transformer架构处理长文本和复杂推理任务有效率瓶颈，多数领先模型仍依赖传统注意力设计。MiniMax开源基于闪电注意力机制的专家混合模型Minimax，从架构、创新模块、训练框架等多方面优化，表现突出。
大模型顿悟原理！Meta新论文说清楚了
Meta超级智能实验室（FAIR）最新论文把大模型顿悟（grokking）现象的数学机制说清楚了。提出Li2数学框架，将两层神经网络的grokking动态分三阶段，还推导了泛化缩放定律等。