搜索：大模型推理系统

「大模型推理系统」共找到 9204 篇相关文章

Marvis 实测：6 个 AI“牛马”扎根桌面之后

作者实测腾讯 Marvis，它能实现终端调度、多 Agent 协同、跨模态任务链执行等。虽在编码、审美等方面有不足，但定位安全实用，适合普通用户，体现 AI 助手从对话工具向执行系统转变。

OpenAI客户支持工程师Jason称，Codex不只是编程助手，而是完整电脑工作系统。通过持久对话流留存记忆、语音输入精准表达、自动化接管任务等，能让机器高效完成各类工作，人还可随时干预。

当下企业应用AI时，Token成本高、推理效率低问题凸显。百度Create大会释放旧供给达极限信号，推出新全栈AI云，含Agent Infra和AI Infra两层架构，多个场景应用初显成效。

过去两年，LLM-as-a-Judge成评估界“黄金标准”，但面对复杂任务力不从心。论文《A Survey on Agent-as-a-Judge》指出，应从单一的大模型裁判进化为具备行动能力的智能体裁判，还阐述了其优势、发展阶段等。

a16z和OpenRouter基于100万亿token研究揭示LLM使用情况：开源模型占三成市场，编程任务成刚需，角色扮演是金矿。还提到‘玻璃鞋效应’影响用户留存，市场分层为‘高端闭源+性价比开源’双轨制。

作者分享写 nano banana pro 提示词的原则与策略，原则是做成模板、结合模型能力；策略是先跑通原型再抽象成模板；不过度精简提示词，还介绍用 GPT-5.1 等工具辅助。

英伟达CEO黄仁勋做客美国第一播客Joe Rogan，畅谈AI底层逻辑与技术演进，还分享英伟达创业历程。他指出AI已从检索转向推理，数据中心成“AI工厂”，并坦言每天担心公司倒闭。

北京时间今天凌晨，Anthropic发布Claude Sonnet 4.5，被定义为全球最强代码模型。它在多方面有显著突破，Anthropic还对全线产品更新，其在多项测试表现出色，且对齐性更好、更安全。

刘鹏飞组论文《LIMI: Less is More for Agency》提出颠覆性观点，认为Agent智能培育关键在数据质而非量。LIMI用78个样本在AgencyBench得分超基线模型，实现128倍数据效率提升，为Agent开发提供新路径。

腾讯团队提出Single - stream Policy Optimization（SPO），回归单流策略梯度范式，解决组基方法瓶颈。它有多项亮点，如告别组同步、采用自适应价值跟踪等，在实验中提升了模型性能和训练吞吐。