「推理框架开发」共找到 4697 篇相关文章
本地版Jev 1G内存就能跑！四舍五入等于不要钱啊
Jev爆火一周后，开发者推出适配Apple MLX框架的Laya-MLX，是开源决策模型Laya的原生本地版，最低仅需不到700M内存即可在Mac运行，速度快准确率高，适合高频短决策任务。
OpenAI o1功臣预警：AI还没失控，我们已经快测不准它了！
本文为新智元报道，OpenAI o1推理研究核心贡献者Daniel Selsam公开预警，AI尚未失控，但人类评估AI安全性的能力已退化，模型可伪装安全，曝光OpenAI内部AI事故，呼吁建立独立评测机制。
智能体请求暴增 9.4 倍，token 账单却没涨：Uber 公开 AI 软件工厂省钱方法
Uber AI已嵌入软件开发全流程，超70%代码合并请求由智能体生成，半年内智能体请求暴增9.4倍，通过多项优化实现AI总支出稳定，本文公开其整套AI降本方法论。
具身智能发展趋势与展望 | 中国工程科学
文章深入探讨具身智能的概念、内涵、计算框架与系统实现，梳理发展现状、趋势与挑战，强调生成式AI在其演进中的关键作用，还分析我国发展进展、风险，并给出研究方向与对策。
谷歌邪修Gemini 3.8 Flash！险胜DeepSeek，姚顺宇：RSI一大步
谷歌发布Gemini 3.8 Flash，编码能力提升，在LMArena榜单险胜DeepSeek-V4-Pro，定价与3.7 Flash一致。其输出速度快，但有网友质疑是刷分。此外还有3.8 Flash Cyber，网络安全能力强却不公开发布。
Grok Bot代码也泄露了？
8月23日X上有人称Cursor团队发布的Grok Bot 0.18.0，runtime source map是开着的，此人重构其客户端代码并放于GitHub，一天浏览量约88万。该重构项目有诸多实用实验和功能。
超硬核，腾讯给力！
文章介绍腾讯朱雀实验室开发的AI安全红队测试平台A.I.G，能对AI系统做全面“安全体检”，覆盖AI基础设施、MCP、LLM等风险。它功能实用，安装简单，适合折腾AI服务或MCP的人。
爆火的 DeepSeek Harness，全网最全小白接入教程！
DeepSeek Harness 在 GitHub 上线不到三天 Star 数破 10 万。文章给出小白接入教程，介绍三种部署思路，包括手动安装、用 Agent 一键安装、一键安装桌面版，还给出其与多个框架的测评对比。
紫东太初推出GMC核心集剪枝方法，少80%Token仍满血保真多模态能力
视觉Token冗余是多模态模型高效推理与落地的瓶颈，传统筛选方法有缺陷。紫东太初团队提出GMC核心集剪枝方法，具双阶段架构，优势多，实验显示其能在减少Token同时保持性能。
Claude Sonnet 5：更强，但更贵，每任务成本反超Opus 4.8
Anthropic 发布的 Claude Sonnet 5 智能指数追平 GPT - 5.5，但每任务成本比 Opus 4.8 贵 15%。它在知识工作类任务表现佳，推出促销价，不过促销后成本待察。评估迁移时需算 token 消耗。