「高效推理」共找到 2494 篇相关文章
iPhone 17 Pro居然能跑8B大模型！
iPhone 17 Pro竟能跑8B大模型，如Qwen3 - 8B，推理较流畅。作者换机一是因eSIM，二为拍视频。其认为AI普及需端侧落地，此机芯片性能是好信号，盼出优质iOS客户端。
一夜之间，Claude Code删掉了80%系统提示词
本周五，Anthropic 技术团队成员 Thariq Shihipar 介绍新一代大语言模型工程趋势变化。Anthropic 发现旧提示词工程范式在新一代强推理模型发布后或过时，新的 Claude.md 应精简，大砍系统提示词后可把特定任务上下文交给 Skill。
YOLOv8-SST：水面小目标检测极致改进，降低漏检
浙江水利水电学院董慧贞团队提出YOLOv8 - SST算法，针对水面小目标检测的噪声干扰、定位不准、泛化能力弱三大痛点分别改进。经实验，该算法提升了检测精度，推理速度也能满足实时需求，还给出了实战代码。
本地可运行的高质量的文本转语音模型
介绍Kyutai的Pocket TTS，一款轻量级文本转语音应用，可在CPU高效运行，模型小且低延迟，支持Python API和CLI，能语音克隆，还可在浏览器试用，目前仅支持英语，也有社区浏览器端实现。
突破后训练瓶颈？Meta超级智能实验室又一力作：CaT解决RL监督难题
AI后训练依赖监督微调或程序化检查器，但很多有价值任务缺这两种资源。Meta超级智能实验室等机构研究者提出CaT方法，把推理时额外计算当教师信号，为大模型提供监督，实验显示效果显著。
让机器人学会系统2慢思考，叠衣服倒咖啡等不在话下 | 上海交大&智元机器人
上海交通大学与智元机器人等团队推出Hume——融合系统2慢思考的双系统VLA模型。它结合深度推理与实时控制，在多种机器人平台实验中表现出色，平均成功率达91%，显著超越现有模型。
首个实时端侧部署世界模型，20万小时人类视频，BeingBeyond实现「两级跃迁」
4月14日，BeingBeyond发布具身世界模型Being - H0.7，将人类视频规模扩至20万小时，采用隐式推理范式，6项权威评测综合第一。还率先实现端侧实时部署，打通数据闭环，推动模型通用与专家能力跃迁。
这一年做 Agent 的公司，Coding 赚了钱，客服融了钱，你呢？
全球数据研究机构 CB Insights《AI Agent Bible》报告梳理 Agent 行业概况。指出未来趋势，如语音成主流交互等；分析发展受限问题、有潜力机会；还介绍不同类型 Agent 商业情况及应对推理成本策略等。
吴恩达来信：AI 技能正在重新定义优秀开发者的标准
吴恩达指出市场对懂 AI 的开发者需求大，应届生失业率上升。面试看重利用 AI 辅助开发等能力，具备这些技能的人效率远超传统开发者，AI 工程正掀起变革，基础与 AI 知识结合造就高效开发者。
强化学习的两个「大坑」，终于被两篇ICLR论文给解决了
现有强化学习算法基于理想化交互模式，难应对真实环境。Mila 实验室两篇 ICLR 2025 论文提出实时强化学习框架，分别解决推理延迟和动作缺失问题，还可结合使用，对关键领域意义重大。