「快速解码策略」共找到 1283 篇相关文章
10分钟搞定Excel世锦赛难题！首个超越人类Excel Agent，网友：想给它磕一个
Shortcut号称是「第一个超越人类的Excel Agent」，能在约10分钟解决Excel世界锦标赛复杂案例，准确率超80%，还能处理金融建模等任务。但它有格式化懒、多轮对话不佳等局限，目前处早期预览阶段。
世界经济论坛：AI、机器学习专家，成增长最快职业
世界经济论坛《2025年全球未来就业报告》分析未来五年劳动力市场转型。AI成重塑核心，技术岗位增长，传统岗位衰退。各地区情况有别，报告给出政策与企业应对建议。
万字长文！大模型(LLM)推理优化技术总结（非常详细）
文章聚焦大模型推理优化技术，介绍推理过程分预填充与解码阶段，还阐述模型并行、注意力机制优化、模型优化及服务技术等，如多查询注意力减少内存，FlashAttention 优化计算顺序。
Mistral的首个强推理模型：拥抱开源，推理速度快10倍
本周二，欧洲人工智能公司 Mistral AI 发布全新大语言模型 Magistral 系列，有企业版 Magistral Medium 和 24B 参数开源版 Magistral Small。它推理强、多语言表现好，速度比竞品快 10 倍，应用于主流云平台，成本有竞争力。
1万4颗星！机械臂可以接大模型了！面向真实世界机器人的尖端人工智能LeRobot
LeRobot 为 PyTorch 中真实世界机器人提供模型、数据集和工具，降低入门门槛。包含尖端方法，已提供预训练模型等，未来将增加真实机器人支持，文中还介绍其安装、使用等内容。
谷歌之后，英伟达入局扩散大语言模型，Fast-dLLM推理速度狂飙27.6倍
大语言模型领域，推理效率制约实际应用。谷歌Gemini diffusion曾展扩散模型并行潜力，但开源扩散LLM推理慢。近日，NVIDIA等推出Fast - dLLM，无需训练即插即用，推理速度狂飙27.6倍，兼顾速度与精度。
Arc浏览器创始人复盘：为何放弃百万用户及产品，押注AI浏览器？
Arc浏览器曾是新星，有上百万高粘性用户。2024年10月创始人透露将开发新AI-Native浏览器Dia，Arc进入维护状态。创始人复盘Arc错误，阐述转型原因，认为传统浏览器将消亡，Dia有机会成桌面端主流AI界面。
博士宿舍激情脑暴，革新了Scaling Law？Qwen和浙大联手推出新定律，直接干掉95.5%推理内存！
近日，阿里与浙大合作提出并行计算缩放定律 ParScale，可在不增参数下提升大模型能力，推理效率更高。它通过引入并行流实现，在数学、编程等任务表现佳，适合边缘设备，代码已开源。
AI大佬教你如何中顶会：写论文也要关注「叙事」
NeurIPS投稿截止不到一月，Google DeepMind的Neel Nanda发布机器学习论文撰写指南，旨在解决论文表达晦涩问题。指南涵盖理想论文精髓、写作关键要素、结构解析、流程建议及常见问题应对策略。
突破多模态奖励瓶颈！中科院清华快手联合提出R1-Reward，用强化学习赋予模型长期推理能力
多模态奖励模型（MRMs）对提升多模态大语言模型表现至关重要，强化学习理论上可引入长期推理能力，但现有RL算法用于训练MRM会不稳定。中科院、清华等团队推出R1 - Reward模型，在多模态奖励模型benchmark上有显著提升。