「关键token检测」共找到 1818 篇相关文章
小米小爱同学：资源受限下，实现端侧大模型的高性能推理
InfoQ对话小米小爱同学端侧AI负责人杨永杰，探讨大模型端侧部署难题。团队自研推理框架，实现180 tokens/s推理速度，采用共享基座架构支持多业务。未来端侧大模型突破依赖硬件提升与架构演进。
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
Replit 怒锤“欧洲版 Cursor”：造出百款“高危”应用，普通开发者一小时内黑入，氛围编码成了黑客“天堂”？
近日，Replit 员工报告 Lovable 未修复关键安全漏洞，扫描发现其百款应用高危，普通开发者一小时内可黑入。Lovable 虽推出‘安全扫描’功能，但仍未解决底层问题，引发对氛围编码安全责任的讨论。
Reasoning模型在RL下的探索欲望急速下降问题：探索熵机制
论文研究发现大模型经强化学习训练解题时，会出现模型探索欲望急速下降的熵崩溃现象，如训练初期策略熵断崖式下跌。对此进行规律分析、追根溯源，提出破解方法，研究对AI训练范式变革有重要意义。
MIT爆火论文被曝数据造假！曾验证AI辅助科研增速44%，诺奖得主都被诓了
MIT一篇名为“Artificial Intelligence, Scientific Discovery, and Product Innovation”的论文曾轰动学术圈，表明AI辅助科研有显著效果。但半年不到，因涉嫌关键实验数据造假被责令撤稿，作者已离开MIT，论文暂未从arxiv下架。
PITT | 提出PhyT2V框架：让文生视频（T2V）更符合物理规律（CVPR2025）
当前T2V技术迈向推理驱动阶段，物理规律是关键约束。匹兹堡大学团队提出PhyT2V框架，不依赖模型重训练或大规模外部数据，可增强主流T2V模型能力，有低落地门槛和良好泛化性。
谢尔盖・布林再次进入「创始人模式」？Google押注「AI自我进化」
据路透社报道，Google联合创始人谢尔盖・布林深度介入AI研发，推动递归式自我改进（RSI）方向。此前Google新一代Gemini旗舰模型发布推迟，内部测试显示在关键领域落后对手，此次调整或为提升研发效率。
一年从3B卷到0.xB：MonkeyOCRv2用0.7B拿下17语种文档解析开源第一
文档OCR正迈入小模型时代，MonkeyOCRv2以0.7B、0.6B参数在MDPBench上超越3B模型。它重新分配系统职责，采用互补预训练目标，还开源训练数据，且迁移到多任务表现良好。
融资数亿元，我们和贝塔无限刘武龙聊了聊具身系统创新
AI科技评论对话贝塔无限刘武龙，探讨具身智能。刘武龙有丰富华为履历，其团队获数亿融资。他分析技术路线分歧，提出具身大脑定义，还谈数据采集、产品切入与商业化等，认为系统工程团队有望胜出。
2篇最新Anthropic论文，揭开LLM对齐新范式
Anthropic在5月连发两篇研究，揭示LLM对齐训练新范式。指出单纯模仿正确行为不足以保证安全，需在预训练与对齐微调间插入教原理阶段。研究围绕Claude模型展开，有多项关键发现，MSM方法效果显著。