搜索：推理质量评估

「推理质量评估」共找到 3139 篇相关文章

提示工程实战指南：从Zero-Shot到Graph Prompting，7大核心技术全解析

随着大型语言模型发展，提示工程成关键技能。文章介绍零样本提示、少样本提示等七种提示优化模式，分析适用场景、优缺点，还给出示例，最后总结各技术适用场景及最佳实践。

英伟达用Blackwell创下AI推理新纪录，单节点8颗GPU实现Llama 4 Maverick模型每秒单用户生成1000个token。这得益于技术组合拳，如用TensorRT - LLM优化、应用FP8格式等，满足了低延迟需求。

图灵奖得主杨立昆指出AI未越过三道认知墙，即看不懂物理世界、无长时记忆、无推理结构，提出JEPA架构及AMI概念，还建议别卷模型，应卷架构，如探索具身智能等领域。

本文探讨未来科研范式「自主通用科学家」（AGS），它将AI与机器人技术结合实现科研全流程自动化，有望突破人类科研限制，引发科学范式变革，还介绍了相关架构、优势及面临的挑战和应对策略。

ICML 2025录用结果公布，共提交12107篇有效投稿，3260篇被接收，录用率26.9%。此次评审质量遭热议，出现审稿人敷衍、评审错误等问题，同时展示了部分网友的论文录用和拒稿情况。

本文是科技媒体The Information对OpenAI研究科学家Noam Brown的深度访谈，围绕AI Agent、推理模型、AI安全、OpenAI研发战略展开，披露了Hugging Face多Agent事件细节，分享了诸多反直觉的前沿技术观点，信息密度极高。

马斯克警告AI激流已至，过去一年全球AI推理Token用量暴增25倍。ARK首席未来学家指出AI基础设施投资回报高，引发资本转移与挤出效应，传统企业融资难、人才流失，将被AI“吸干”资本。

2026年7月27日，Moonshot AI开源全球首个3万亿参数级模型Kimi K3。它不仅参数量大，还在多领域表现出色，能与顶尖闭源模型媲美。其架构创新、训练独特、推理成本低，有望改变全球大模型格局。

传统模型路由用于写生产代码易掉链子，Cognition发布的Devin Fusion混合模型框架可解决该问题。官方测试显示，它能降35%编码智能成本且质量无明显下滑，从实际测试案例可看出其适用边界。

随着Agent应用爆发，大模型推理效率成AI行业焦点。阶跃星辰联合多校团队开源JetSpec，该框架面向推测解码，在H100上把MATH - 500解码速度提升到9.64倍，突破了推测解码的扩展天花板。