「大模型测试」共找到 9855 篇相关文章
1200行代码逆袭！DeepSeek工程师开源轻量级vLLM，吞吐量逼近原版
开源 vLLM 可提升 LLM 推理速度和资源利用率。近日，DeepSeek 工程师俞星凯开源轻量级 Nano - vLLM，代码仅 1200 行，基准测试中吞吐量逼近原版，项目已在 GitHub 获 200 多 Star。
Reasoning新突破：SoftCoT++如何让LLM‘多想几条路’？
LLM推理依赖‘思维链’，传统方法在离散token空间生成步骤有信息丢失、多样性不足问题。SoftCoT++在连续空间生成‘软思维’，拆分‘思考’与‘推理’，用专用初始token和对比学习，实验中全面超越传统方法。
你天天用的Claude和Codex，Meta内部不让随便用了
今年5月Meta给工程师划红线，限制用Claude Code和Codex，因其太好用。Meta组建团队自研编程助手MetaCode，担心外部模型输出渗进训练数据，出现“蒸馏陷阱”，且能省钱。
医疗AI十年，终于有人跑通了最难的一关｜甲子光年
2026年5月20日，德适AI AutoVision®染色体核型辅助诊断软件获国家药监局第三类医疗器械注册证。这验证了iMedImage®基座模型产出产品可通过最高等级监管审查，为医疗AI产业化提供了可行路径。
重磅！iPhone 端侧可部署 Gemma 4 了！完全零token消耗！
PhoneClaw 是运行在 iPhone 的本地 AI Agent，可离线运行 Google Gemma 4。它支持多模态，有隐私保障和灵活模型管理。文中介绍使用方法、自定义 Skill 方式、常见问题，还提及后续扩展计划。
清华开源了一个真的会和你互动的AI课堂，同学老师都是AI，500学生已经验证....
清华大学开源OpenMAIC，这是多智能体驱动的交互式AI课堂。它模拟真实课堂，有多种场景，内置自适应引擎。经500学生验证，数据佳。支持多模型，部署方式多，还集成OpenClaw。
截击英伟达！OpenClaw狂吞Token，北大系芯片黑马剑指2000 Tokens/s
NVIDIA GTC 2026前夕，AI推理赛道竞争激烈。北大系寒序科技宣布融资，首颗样片测试跑通，单位面积带宽达100GB/s/mm²，下一代「MRAM+SRAM」架构目标2000 Tokens/s，挑战英伟达。
Agent经济，要来了
红杉资本半小时演讲讲清AI产业现状与趋势。介绍了分析框架，指出AI浪潮大且猛，会颠覆软件市场，机会在应用层。还提出Agent经济概念，建议大家抓住机会行动起来。
Codex正在重塑传统推理框架开发流程
作者用Codex完善SGLang Diffusion的SKILLS流程，修复诸多bug。让其做benchmark脚本，发现不同rmsnorm性能差异。应用flashinfer rmsnorm遇问题，Codex找出原因并修复，还提升了模型性能，体现强大生产力。
彻底告别VE与VAE！商汤硬核重构多模态：砍掉所有中间编码器
商汤科技联合南洋理工大学发布NEO - unify，这是“原生、统一、端到端”多模态模型架构，砍掉VE和VAE，用混合变换器架构打通视觉与语言能力，提升数据与算力利用效率，为跨模态智能系统奠基。