「LLM评估」共找到 1596 篇相关文章
1200行代码逆袭！DeepSeek工程师开源轻量级vLLM，吞吐量逼近原版
开源 vLLM 可提升 LLM 推理速度和资源利用率。近日，DeepSeek 工程师俞星凯开源轻量级 Nano - vLLM，代码仅 1200 行，基准测试中吞吐量逼近原版，项目已在 GitHub 获 200 多 Star。
Dify、n8n、扣子、Fastgpt、Ragflow到底该怎么选？超详细指南来了。
文章从实用角度出发，对Dify、Coze、n8n、FastGPT和RAGFlow五款主流平台进行详细功能对比，结合真实使用体验和应用场景，为不同需求者提供选择指南，还给出选型考量要素。
“图片秒生”，腾讯混元图像2.0模型正式发布，主打速度和真实感
5月16日，腾讯发布混元图像2.0模型，率先实现实时生图，生图速度快、质量高，能避免‘AI味’。在GenEval基准上准确率超95%，还发布实时绘画板功能，后续将推原生多模态模型。
“由 AI 生成的代码，从诞生那一刻起就是「遗留代码」！”
如今生成式AI融入软件开发，AI生成的代码一诞生或被视为“遗留代码”。它缺乏上下文记忆和维护连续性，虽有开发者尝试弥补，但代码未来或多靠提示生成。文章观点在Hacker News引发讨论。
开发边界消失是必然，但 AI 没有替代开发者！对话 Google 全球开发者生态总监 David McLaughlin
文章是对 Google 全球开发者生态总监 David McLaughlin 的访谈。谈到 AI 会让开发边界消失，开发者应转变思维，AI 增强而非替代开发者，还探讨了谷歌工具策略、开发者出海问题、Token 管理等。
从视觉压缩，到视觉记忆：MonkeyOCRv2以重建保留文档页面证据
文档视觉编码器对LLM理解和推理很重要。MonkeyOCRv2提出‘重建即文档视觉记忆’，通过多组实验验证其有效性，还发布MonkeyDoc v2数据集，推动公平比较的研究文化。
大模型最后一层竟是推理累赘？绕开对齐税，奥数准确率暴涨 22.4%！
Qwen团队、清华和南洋理工研究打破传统认知，揭示‘对齐税’现象。提出Confident Decoding策略，在多架构和评测集实验中表现出色，开销低，挑战‘LLM最后一层最优’常识。
ICML 2026 ｜让大模型边想边说：这篇文章把「何时开口」变成可学习策略
论文《When to Think, When to Speak: Learning Disclosure Policies for LLM Reasoning》针对推理模型的‘沉默税’问题，提出Side - by - Side（SxS）Interleaved Reasoning，将‘何时披露内容’变为可学习决策，经实验验证效果良好。
Turso：用 Rust 重写 SQLite，让数据库跑在每一个边缘节点
Turso用Rust重写SQLite内核，解决其单写者限制和缺乏网络同步能力的短板。它有嵌入式副本、边缘同步和向量搜索等特性，适用于AI Agent、多租户SaaS等场景，与竞品相比优势独特。
NUS&复旦&清华：首个系统性大模型Latent Space综述
新加坡国立大学等多机构发布大模型潜在空间领域首个系统性全景综述，从“基础—演进—机制—能力—展望”拆解潜空间范式的底层逻辑、技术路径与未来前景，还对比了潜空间与显式空间差异。