「免训练加速」共找到 2723 篇相关文章
LLM加速利器LMCache，极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件，能降低首次响应延迟、提升吞吐量，适用于长上下文场景。它将KV缓存存于多级存储，跨服务实例复用任意重复文本的KV缓存，节省GPU算力，与vLLM结合优化显著。
腾讯急了！同时放出3只龙虾，龙虾生态加速
龙虾（OpenClaw）持续火爆，成为两会热议话题，大厂纷纷入局。腾讯坐不住，3月6日线下提供龙虾服务，现又推出3只龙虾，包括企业微信接入、WorkBuddy远程控制及QClaw内测，解锁无限可能。
实测Perplexity Pro平替模型，免费开源仅4B
一款仅4B大小的开源模型Jan-v1，声称能平替Perplexity Pro，且完全免费、支持本地部署。实测发现，它在检索增强生成、上下文深度分析等能力上表现不错，入门级显卡即可带动本地部署。
AI中场，谷歌和百度的爆发式加速
AI大战第三年，谷歌和百度火力全开。谷歌Gemini能力出众，谷歌全家桶变身通用Agent；百度40天连发四款新模型，智能云增速惊人。全栈模式展现超强弹性，AI产业导向“全优生”式胜利。
LinearRAG：一种免关系提取的高效 GraphRAG 图构建方法
研究指出 GraphRAG 模型在实际应用中表现常不如朴素 RAG 方法，原因是自动构建的知识图谱质量不佳。为此提出 LinearRAG 框架，有三大核心创新，在四大基准数据集上全面超越现有方法，代码和数据已开源。
加速突围！9款信号链芯片背后的“芯”趋势
在高端ADC/DAC领域曾被国际巨头长期垄断。2025年‘芯师爷 - 硬核芯年度评选活动’展示多款信号链芯片。国产芯片发展有高端突破、汽车电子爆发、全产业链延伸三条路径，但也面临参数提升、高端场景拓展及海外竞争挑战。
视觉+语言+动作！超强具身“训练宝典” EmbRACE-3K
视觉 - 语言模型在具身环境中表现有局限，港大推出 EmbRACE - 3K 数据集应对。它含 3000 多个任务、2.6 万个决策步骤，有细致多模态注释。团队用其微调 Qwen2.5 - VL - 7B 模型，还建立新基准评估多个模型。
微软深夜发布SambaY架构，Phi-4min加速10倍推理
微软基于Phi-4-mini版本，针对特定推理任务微调出Phi-4-mini-Flash-Reasoning 3B模型，将其扩展到200064 tokens。采用新型SambaY架构，支持64K token上下文长度，运行快10倍，有诸多优点。
微软深夜发布SambaY架构，Phi-4min加速10倍推理
微软基于Phi - 4 - mini微调出Phi - 4 - mini - Flash - Reasoning 3B模型，扩展到200064 tokens。采用新型SambaY架构，支持64K token上下文长度，运行速度比前代快10倍，有诸多优点。
强化学习新发现：无需数学样本，仅游戏训练AI推理大增
莱斯大学、约翰斯・霍普金斯大学和英伟达研究团队有颠覆性发现，让多模态大语言模型玩简单游戏，无需数学样本，就能显著提升其多模态推理能力。提出的ViGaL方法在多个基准测试中表现出色。