搜索：稀疏专家机制

「稀疏专家机制」共找到 1403 篇相关文章

95后，边改造业务边发AI顶会论文，是怎样的体验？

当下AI人才竞争激烈，企业各出奇招。今年5月京东技术沙龙零售专场，技术团队分享成果。几位95后青年专家讲述成长历程，如洛川解决CTR模型训练瓶颈，谦屹发表多篇顶会论文。京东还推出人才计划吸引人才。

本文聚焦基于模型的离线强化学习，指出RAMBO算法存在保守性难控和训练不稳问题。为此提出ROMI方法，引入鲁棒价值感知框架与隐式可微自适应加权机制，在多基准任务上超越基线算法。

Meta的SOAR架构用错误率高的数据让模型推理能力暴涨9.3%。它选难题子集，用‘教师模型’生成含错题的‘垫脚石问题’，通过‘双层博弈’和‘有根奖励’机制让模型进步，或成AI进化新方向。

AI编程服务提供商Replit推出新一代AI编程助手Agent 3，CEO称其为软件“自动驾驶时刻”。但用户反馈它修不好bug还删关键文件，成本也高，Replit回应强调“模型栖息地”和“事务性”机制重要性。

谷歌发布Gemini能源消耗研究报告，称处理中位数文本提示能耗低，2024 - 2025年能耗降33倍、碳足迹减44倍，归功于全栈式优化。但专家质疑方法论，指出未算间接用水、碳排放核算不全等问题。

当下AI代码审查工具引发热议，虽宣称提效300%，但实际表现存争议。InfoQ采访硅心科技专家，探讨其利弊、核心能力、不同工具差异等，还提及应对问题的策略及未来审查流程演变等内容。

Kimi K2技术报告发布，Moonshot团队用万亿+参数稀疏MoE架构等打造接近Claude - Opus的通用大模型。围绕训练稳定性等改进，有预训练、架构设计等多方面创新，为智能体领域提供可行路径。

黄仁勋在CNN访谈称每天用AI，认为提示工程是高级认知技能，AI会重塑工作非消灭岗位，还提及中国市场重要性，宣布H20获批入华、将发新显卡RTX Pro，不过其他专家看法不一。

多图像、长视频让大型视觉语言模型推理成本暴涨，成算力瓶颈。腾讯AI Lab联合CMU提出VScan，通过两阶段视觉token筛选机制，在几乎不损性能的前提下实现推理加速，且已在GitHub开源。

港大等机构用3000道物理题测试顶尖大模型，如GPT - 4o、Claude 3.7 Sonnet等，结果模型准确率远低于人类专家。研究推出PHYX基准测试，揭示模型依赖知识、公式和模式匹配，缺乏真正物理理解。