「大语言模型推理」共找到 8425 篇相关文章
刚刚，神话级Fable 5.1来了！
今天，Claude Fable 5.1全平台上线，Mythos 5.1专供特定团队。新模型跑分有断层式代差，还降低了算力门槛。通过重绘金星、设计蛋白等案例展示其科研能力，在编程上也表现出色，同时在安全上采取‘一松一紧’策略。
欲取代transformer的SSA(次平方稀疏注意力)解读
文章解读了欲取代Transformer的SSA（次平方稀疏注意力）算法。它支持12M tokens上下文，比fastAttention快52倍，训练和推理更快。SSA改变了注意力扩展特性，有计算和内存线性扩展等特性，经三阶段训练可可靠利用长上下文。
20亿美金苏度科技具身首秀即大招！0真机数据，zero-shot，跑出98%首次抓取成功率
苏度科技发布软硬件全栈自研的机器人系统R1，采用世界模型与强化学习一体化设计，在不使用真机数据的前提下，实现关键任务近100%的Zero-shot成功率。苏度团队通过重新定义数据范式，解决了具身智能发展的核心瓶颈。
sgl-kernel MoE Align Block Size Kernel 优化过程解析
文章记录SGLang的sgl-kernel中优化 `moe_align_kernel.cu` 的过程。MoE模型的 `moe_align_block_size` kernel从最初的baseline版本经多次迭代，包括加向量化padding、用Blelloch Scan并行化前缀和、用Warp Scan减少同步开销等。
GenAI 退烧后，这家企业正在用 “数据平台” 重构AI2B的底层逻辑
GenAI浪潮下，企业级AI落地难。矩阵起源举办新品发布会，其CEO王龙指出落地瓶颈已从大模型转向私域数据。该司推出MatrixOne和MatrixOne Intelligence，构建“数据智能飞轮”，MOI三层架构可打通数据到业务落地流程，还通过案例展现其解决实际痛点能力。
AI 正当时，实践正落地：2025 AICon 深圳站圆满收官
8月22 - 23日，2025 AICon深圳站圆满落幕，超800位从业者参与。大会汇聚多企业专家，围绕多热点探讨。极客邦霍太稳指出AI从模型比拼到落地实践。多位嘉宾分享经验，如阿里云蒋林泉、快手周国睿等。还有多场硬核分享及开发者展区。
Claude独立攻克理论物理前沿难题，全程无人指导，花费不到两千美元
本文报道Anthropic旗下大模型Claude在几乎无人指导的情况下，独立完成理论物理前沿难题——平面N=4超杨-米尔斯理论九圈六胶子散射振幅计算，总成本不到两千美元，中科院团队也借助GPT-6得到结果，业内探讨了AI在科研中的能力边界。
硅谷顶级团队闭门会，让Agent活下来的共识，95%的AI Agent都死了
旧金山AI技术大会上，企业大佬指出95%的AI Agent在生产环境中失败，活下来的5%符合5个共识，包括做好上下文选择系统、重视安全权限与用户信任、将记忆作为架构决策、多模型编排及合理运用对话与GUI等，还提及被低估的方向。
我在618主场，和3位顶尖技术博士聊了聊
本文讲述了作者在618与京东三位技术博士的交流。长林主导同品判别系统优化，采用模型蒸馏和数据筛选提升效率；星衍负责物流机械臂项目，强调打透场景；初雪专注语音识别，提升识别准确率和探索创新方向。京东还推出TGT计划吸引人才。
浙大&港理工等提出InfiGUI-R1：利用强化学习，让GUI智能体学会规划任务、反思错误
多模态大模型驱动的GUI智能体有潜力，但现有智能体面对复杂任务力不从心。浙大等机构提出InfiGUI-R1及Actor2Reasoner框架，通过两阶段训练提升智能体能力，InfiGUI-R1-3B在多基准测试中性能卓越，为GUI自动化工具开辟新道路。