「测试时微调」共找到 2499 篇相关文章
1200行代码逆袭！DeepSeek工程师开源轻量级vLLM，吞吐量逼近原版
开源 vLLM 可提升 LLM 推理速度和资源利用率。近日，DeepSeek 工程师俞星凯开源轻量级 Nano - vLLM，代码仅 1200 行，基准测试中吞吐量逼近原版，项目已在 GitHub 获 200 多 Star。
截击英伟达！OpenClaw狂吞Token，北大系芯片黑马剑指2000 Tokens/s
NVIDIA GTC 2026前夕，AI推理赛道竞争激烈。北大系寒序科技宣布融资，首颗样片测试跑通，单位面积带宽达100GB/s/mm²，下一代「MRAM+SRAM」架构目标2000 Tokens/s，挑战英伟达。
加速200倍，单显卡1.8秒生成5秒高清视频！清华与Vidu解开了视频扩散模型的速度枷锁
清华、生数科技与伯克利联手用TurboDiffusion解开视频扩散模型速度枷锁。它改造注意力机制、引入步数蒸馏和量化策略，在多模型测试中加速100 - 205倍，且画质几乎无损。
看似无害的提问，也能偷走RAG系统的记忆——IKEA：隐蔽高效的数据提取攻击新范式
研究聚焦RAG系统，提出全新黑盒攻击方法IKEA。它不依赖异常指令，通过自然查询提取私有信息。经多数据集测试，其效率和成功率高，还证实提取知识实用，揭示RAG系统潜在脆弱性。
中科院开源PPT Agent，一键自动生成PPT智能体
中科院软件所等联合开源PPT Agent，它能分析参考幻灯片，按人类流程分两阶段生成PPT，有自我修正功能，测试显示在多维度优于现有方法，极大节省用户时间精力。
刚刚开源不到1MB大小，每个AI程序员都该装！
当跑多个 AI Agent 时，很难第一时间了解每个 AI 状态。刚开源的 `abtop` 项目运行在终端，能实时展示 Claude 和 Codex 会话状态，不依赖 API Key，功能实用且安装方便。
DeepMind大佬最新暴论：单体大模型穷途末路，未来买的不是模型，是"智能路由"
DeepMind研究员Andrew Trask认为，因Scaling Law对资源需求攀升，AI将成协议而非程序。组合不同厂商模型有优势，当主流榜单同等评分时变革加速，之后人们将买“智能本身”。
通义实验室最新成果WebDancer：开启自主智能Deep Research的新时代
通义实验室推出 WebDancer，解决自主信息检索智能体构建难题。它创新合成训练数据，采用两阶段训练策略应对开放网络训练挑战，在多个基准测试中表现卓越，未来还将拓展能力。
6.2k 谷歌开源LangExtract，主打精确溯源的长文档抽取
谷歌开源 Python 库 LangExtract，能让 LLM 依用户指令从非结构化文档提取结构化信息。它可处理临床记录等，具备精确源接地、可靠输出等特性，支持多模型，无需微调，适用于各领域。
刚刚，Anthropic切开Claude大脑！AI自发长出类人「意识器官」
Anthropic开源「手术刀」J-Lens，读出Claude未说出口的念头。研究发现Claude自发长出类似人脑「意识」结构J-space，通过多项测试与全局工作空间理论对标，还表现出类似人脑的现象。