批次不变算子」共找到 108 篇相关文章

开源动态7

110万美元悬赏!AMD发起全球战书:谁能打破DeepSeek与Kimi的推理速度极限?

AMD与GPU MODE联合发起2026线上黑客松,向全球发榜。挑战赛设110万美元奖池,分预选赛和决赛,要对核心GPU算子打磨、挑战明星模型,代码须可合并,给出了赛程安排及参赛方式。

AI科技大本营
产品应用8

微信自研高性能推理计算引擎 XNet-DNN:跨平台 GPU 部署大语言模型及优化实践

本文深入解析微信自研的高性能推理计算引擎 XNet-DNN,介绍其核心技术架构和性能优化策略。该引擎基于 RCI 框架构建跨平台 GPU LLM 推理能力,在多方面超越现有解决方案,还给出了详实对比实验数据。

腾讯技术工程
新闻资讯7

AI 是否已经杀死了敏捷宣言

凯捷集团执行副总裁 Steve Jones 宣称“AI 已杀死敏捷宣言”,指出智能体 SDLC 与敏捷宣言存在根本性矛盾,业界反应不一,软件开发正进入方法论变革期,敏捷未来成谜。

InfoQ
开源动态7

“AI火了,我们却快完了!”顶级开源框架Tailwind之父含泪裁掉75%兄弟:半年后,这个项目可能就没了

前端开源项目 Tailwind CSS 正面临生存危机。创始人 Adam Wathan 称因 AI 冲击,一天内裁掉约 75% 工程团队员工,若趋势不变,约 6 个月后无法支付工资。此前社区 PR 也因变现问题被拒。

AI前线
推荐文章8

SGLang 确定性推理实现技术细节笔记

文章围绕SGLang确定性推理展开,介绍其启用方式,详述批次不变性原理与Batch Invariant Ops实现,如Matmul Persistent Kernel设计;还阐述确定性采样、Attention Backend配置、AllReduce改动等,给出环境变量及测试脚本,有完整解决方案。

GiantPandaLLM
算法论文8

JFM | 浙江大学郑畅东、谢芳芳等:基于Transformer网络的上下文学习跨翼型的主动流动控制策略

浙江大学郑畅东、谢芳芳等提出基于Transformer网络的上下文学习跨翼型主动流动控制策略。该框架引入策略改进算子,结合强化学习与气动形状优化,在翼型流动分离问题中表现出色,提升了整体性能。

力学与人工智能
算法论文8

阿里SkillClaw:让 Agent 技能在真实使用中集体进化

当前LLM Agent依赖可复用技能完成任务,但技能部署后静态不变,改进仅停留在当前会话。阿里SkillClaw提出中心化进化架构,将多用户交互作为技能改进信号,通过Agentic Evolver更新技能,经夜间验证后部署。

PaperAgent
产品应用7

实测Claude Opus 4.7,好好的模型也开始不说人话了。

作者实测Claude Opus 4.7,它已全渠道上线,价格不变。该模型有多处更新,如隐形涨价、视觉能力提升、审美进步,但也出现不说人话的问题,还新增了effort档位、/ultrareview命令和Cyber Verification Program。

数字生命卡兹克
开源动态7

“AI火了,我们却快完了!”顶级开源框架Tailwind之父含泪裁掉75%兄弟:半年后,这个项目可能就没了

前端开源项目 Tailwind CSS 面临生存危机,创始人 Adam Wathan 称因 AI 对业务模式冲击大,一天内裁掉工程团队约 75% 员工。如趋势不变,约 6 个月后无法发工资,这与它在 AI 领域受欢迎形成反差。

InfoQ
算法论文7

李飞飞团队新作:DiT不训练直接改架构,模型深度减半,质量还提高了

本文介绍「嫁接」技术,可在小计算预算下编辑预训练 DiTs 探索新架构。不从头训练,替换算子创建混合架构,保持质量同时减少计算量。还通过实验展示该技术在构建高效架构和文生图模型中的效果。

机器之心