「端到端加速」共找到 2822 篇相关文章
在 Cache-DiT 框架下实现原生 Serving功能
Cache-DiT 是唯品会开源的 PyTorch 原生 DiT 推理加速引擎,此前聚焦离线推理。现实现完整 Serving 功能,支持单卡与分布式推理模式。文章介绍其实现过程、借鉴 SGLang 的设计,还总结踩坑及使用方法。
云计算一哥10分钟发了25个新品!Kimi和MiniMax首次上桌
亚马逊云科技CEO在re:Invent 2025上10分钟发25个新品,2小时近40个。围绕AI Agent,从算力到模型、平台、应用全面布局,还引入中国Kimi和MiniMax,构建全栈壁垒,助力企业用好AI。
腾讯混元数字人团队发布Moral RolePlay基准,揭秘大模型的「道德困境」
腾讯混元数字人团队和中山大学推出「Moral RolePlay」测评基准,评估大模型扮演多元道德角色能力,揭示顶尖AI模型演不好反派,暴露模型理解社会心理复杂性的局限,还给出未来对齐技术方向。
爆火的AI三宫格图片,比我们的生活更像电影。
最近三宫格AI图片爆火,起初是唯美电影感写真配文艺台词,后各地文旅、宠物赛道等画风渐趋抽象。其制作简单,用豆包的Seedream 4.0即可,文中还给出Prompt模板,该现象内核是将生活电影化。
Claude Skills,4000字详解 Anthropic 的思考
Anthropic推出新技能Claude Skills,作者认为它会引导第三方工具形态。Skills结合笔记式形态、可执行工具与AI调度自优化,具备低门槛、灵活表达等优势,还实现了AI自我进化,是一种新范式。
MagicOS已成世界「第三极」,荣耀拿下AI大战叙事权
全球智能手机进入AI决战期,苹果、谷歌、三星等厂商各有局限。荣耀推出MagicOS 10及YOYO智能体,其具备自进化能力,背后有魔法大模型3.0矩阵支撑。荣耀在技术、生态、市场等方面全链路突破,有望执掌全球AI终端话语权。
NeurIPS 2025 Spotlight | 条件表征学习:一步对齐表征与准则
文章指出传统表征学习处理图片和商品信息时存在局限,针对性有监督训练成本高,多模态大模型使用成本也需考虑。为此提出即插即用的条件表征学习方法 CRL,实验显示其在下游任务表现优异。
开源全合一智能体沙箱
AIO Sandbox是开源全合一智能体沙箱,将浏览器、Shell等整合到同一容器,提供统一安全开发执行环境。解决传统沙箱问题如文件共享难,有统一文件系统等优势,文中介绍其安装、用法、特性等。
Thinking Machines曝LoRA终极指南:10倍学习率,媲美全参微调
Thinking Machines推出论文《LoRA Without Regret》,研究LoRA与FullFT达到相近表现的条件。通过实验发现,把握关键细节,LoRA可与FullFT性能相当,还探讨了关键因素、批大小效应等内容。
瑞识科技获海外两家激光雷达上市公司VCSEL芯片开发项目
近日,瑞识科技与两家纳斯达克上市激光雷达企业合作,为其新一代产品定制高性能VCSEL芯片。当下激光雷达市场升温,VCSEL替代EEL趋势显著。此次合作彰显“中国芯”实力,将加速激光雷达商用。