「控制面设计」共找到 2070 篇相关文章
破解AI对不同上下⽂位置的敏感度不⼀致,新框架使出“解铃还须系铃人”
语言模型存在位置偏见,影响复杂推理等任务。论文提出Pos2Distill框架,将模型优势位置能力迁移到劣势位置缓解偏差,设计了Pos2Distill - R1和Pos2Distill - R2,在检索和推理任务表现好且有跨任务泛化能力。
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时,发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案,启动多个不同配置Kernel,依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
单Agent时代结束,AI们开始组团上班
月之暗面发布并开源K2.6,重点升级代码能力与多Agent协作的“Agent集群”能力。K2.6在Artificial Analysis上取得全球开源第一,实测能并行交付多格式成果,还展现出强大的全栈应用开发能力。
GPU-MODE Leaderboards之nvfp4_gemv代码阅读
文章围绕GPU-MODE的nvfp4_gemv竞赛rank1代码展开,先介绍问题及官方baseline,后详细解读rank1代码,含数据加载、线程模型等,还剖析核心计算函数,最后总结代码在缓存控制、数据格式等方面的调优亮点。
突发,OpenAI首颗「辣椒」芯片压倒英伟达!GPT-6干崩CUDA
OpenAI首颗自研芯片Jalapeño「墨西哥辣椒」实测成绩亮眼,AI推理性能超英伟达全系,功耗仅为一半。它从设计到流片仅用九个月,得益于GPT - Astra协助。有观点认为CUDA护城河或已死,OpenAI正打造算力版图。
谷歌新研究:大模型“吵架”有利于提升推理质量
谷歌新研究发现高级推理模型自发进化出'思想社会',研究人员用LLM - as - judge方法识别出多个虚拟人格。还找到控制现象的'开关',实验表明教AI'吵架'更有效,其'社交技能'通用,给开发者带来新启示。
企微的这些新功能,补齐了AI在你公司的最后一公里
文章指出企业中大量数据不在线上,影响AI落地,过去补数据入口有问题。企业微信5.0.8版升级从组织级入口切入,新增‘记录面聊’和升级‘智能表格’,接住沟通和数据的context,让AI看见完整公司。
CIO 正在抛弃 AI 生码率:一场关于什么才算产研提效的实践复盘
阿里云CIO蒋林泉团队复盘AI时代产研组织效能提升实践。指出多数企业用AI停于工具替换,AI生码率等指标存误区。介绍团队从多方面重构产研组织,如左移质量测试等,还提出新岗位与框架,分享对工具、组织和人的见解。
慕了!内存芯片巨头年终奖人均64万;32岁程序员猝死背后公司被扒,曾给39万“封口费”;马斯克曝星舰成本将降99%,商业航天受捧|AI周报
这是一篇AI周报,涵盖多领域热点。如SK海力士发高额年终奖;月之暗面张予彤称Kimi用少量资源开发领先模型;马斯克透露星舰目标、人形机器人计划等;多家公司有新动态,如阿里推AIGC应用、百川发布医疗大模型等。
开源项目捐给基金会后又往回要,维护 7 年出钱出力却被告上法庭?网友:捐了代码想收回去靠它赚钱,太无耻!
云原生计算基金会 (CNCF) 与开源消息系统 NATS 背后的 Synadia 公司就 NATS 项目的商标、域名和 GitHub 存储库控制权产生纠纷。Synadia 曾将项目捐赠给 CNCF,如今想“撤回”并变更许可证,双方各执一词,最终达成 Synadia 同意 CNCF 控制相关资产的协议。