「动态检索」共找到 610 篇相关文章
Default Alive：警惕 AI 公司“亏损死亡螺旋”｜ AGIX PM Notes
文章围绕AI公司发展展开，指出要警惕“亏损死亡螺旋”，真正存活的公司需平衡创新与盈利。还总结本周市场，如对冲基金加仓全球股票，同时介绍多起AI动态，像OpenAI发布GPT - 5等。
南大周志华团队最新力作：一个算法通吃所有，在线学习迎来新范式？
世界是动态变化的，AI 模型需具备在线学习能力，领域提出适应性遗憾值指标。现有算法通用性不足，南京大学周志华团队研究具有双重自适应性的通用算法，提出元 - 专家框架等，还研究了在线复合优化问题。
一种基于滑动层合并的高效深度修剪大模型的方法
文章指出深度修剪可加快推理速度，但直接丢层会降低性能。为此提出滑动层合并法，根据相似度阈值融合连续层，简化结构且保持性能。实验显示该方法优于现有技术，还揭示了与宽度修剪结合的潜力。
万字长文！大模型(LLM)推理优化技术总结（非常详细）
文章聚焦大模型推理优化技术，介绍推理过程分预填充与解码阶段，还阐述模型并行、注意力机制优化、模型优化及服务技术等，如多查询注意力减少内存，FlashAttention 优化计算顺序。
GitHub上已突破5.1k stars！这是真正被开发者认可的 AI Agent平台，AI开发者必看，如何用它实现生产力逆袭？
TaskingAI是AI - native应用开发平台，整合多模块提供一站式BaaS体验，简化AI应用全流程。它支持多模型，有检索、工具插件等功能，适用于客服、销售等场景，还对比同类项目展现优势。
颠覆传统向量数据库，直接将文本数据编码成视频文件，轻量级革命性的大规模AI记忆解决方案Memvid
Memvid将文本数据编码为视频，改变AI记忆管理，实现百万级文本块闪电语义搜索和亚秒级检索。它存储高效、轻量级、可离线，应用场景广，还给出安装、使用、配置等说明，并与传统方案对比。
ACL2025 | 抓出0.1%的捣乱分子压缩方法OTT：近乎无损 超越KIVI，内存减6.4倍 吞吐量提2.3倍
LLM生成文本时KV Cache内存占用高，限制模型批量处理能力。论文提出OTT方法，动态追踪异常令牌单独高精度保存，其余压缩。实验显示，它准确性高、效率好，不过在极短文本等场景有局限。
低延迟、高吞吐，LLM优化与高效推理引擎综述
LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
6个Claude Code神作，Anthropic亲选
Claude 官方晒出一批来自普通用户的 Claude Code 「神作」，覆盖实用工具、可视化创意和趣味应用等领域，如人脸涂鸦、医学影像查看器、代码库动态图等。这些项目反映出 Claude Code 正走出传统编程场景。
Skills驱动推理新范式，清华&北大：Token立省59%，准确率不降反升
当前推理模型虽准确率高，但生成“思考过程”会使推理成本和延迟上升。奇元科技、清华、北大等提出TRS框架，将历史推理轨迹蒸馏成技能卡片，在推理时检索注入，实现更少Token、更高准确率。