「向量量化」共找到 282 篇相关文章
30秒，我用蚂蚁灵光复刻了个支付宝（doge）
蚂蚁集团推出全模态通用AI助手灵光，最快30秒生成私人定制小APP，可编辑交互分享。实测其功能丰富且专业，实现多模态输出和多智能体协作。还对比了与千问区别，介绍蚂蚁AGI布局。
具身智能学界业界思想「惊人的统一」？美团在IROS开了个学术年会
美团在IROS举办学术年会，展示了在具身智能与零售服务结合方面的愿景与成果，如无人机配送初具规模。多位学界和业界大咖参会并发表见解，对具身智能发展方向观点惊人统一。
超越免训练剪枝：LightVLA引入可微分token剪枝，首次实现VLA模型性能和效率的双重突破
文章介绍LightVLA框架，它是用于提升VLA推理效率和性能的视觉token剪枝框架。针对VLA模型计算开销大、推理延迟高问题，提出两大创新，在LIBERO实验中性能超经典模型，还实现推理加速。
EMNLP2025 | 揭开LLM训练数据中的中文污染真相，有比“您好”高2.6倍的token？
近年来，大型语言模型虽成功，但训练数据易混入不良内容。论文《Speculating LLMs' Chinese Training Data Pollution from Their Tokens》探索此问题，定义PoC Token，开发PoCDetect和PoCTrace工具，揭示LLMs训练数据污染情况。
重塑注意力机制：GTA登场，KV缓存缩减70%、计算量削减62.5%
GTA由多所高校联合研发，提出大模型框架，解决传统多头注意力机制弊端。通过分组共享注意力矩阵和压缩潜在值表示，削减计算量、缩减KV缓存，实验验证其性能优、效率高，虽有局限但前景好。
DeepMind揭示Reasoning内在机制
近年来大型推理模型在复杂任务表现出色，但推理机制成谜。本文提出用推理图解码其‘思考轨迹’，分析环状结构、直径大小和小世界特性，发现蒸馏模型等特点，为理解AI推理及模型优化指明方向。
用子模优化法为DeepResearch生成多样性查询
开发DeepResearch时，生成多样化查询是关键。多数开源项目处理方法粗放，本文提出结合句向量与子模优化的方法，设计子模目标函数，给出代码实现，实验显示该方法生成的查询组合多样性更高。
ACL 2025｜为什么你设计的 Prompt 会成功？新理论揭示大模型 Prompt 设计的奥秘与效能
英属哥伦比亚大学等团队剖析Prompt在LLM的CoT推理中调控模型内部信息流，构建量化Prompt搜索空间复杂度理论框架。研究解释提示有效的原因，提供设计高效提示词思路，实验验证理论框架。
Memvid：把你的文档库变成一个小巧的视频，还能瞬间搜出你想要的！
传统向量数据库因高成本和复杂运维让开发者却步。开源项目Memvid将文本数据存入视频文件，能高效检索，解决存储冗余、检索延迟和网络依赖问题，使用简单，虽处概念原型阶段但值得尝试。
DSpark推理速度提升80%后，OpenAI宣布新方法将推理成本降低了一半
近日，OpenAI 工程师开发优化技术，将模型推理成本降一半。业内猜测或基于公开成果，也有人认为是模型量化。此前 DeepSeek 推出 DSpark，使 V4 模型推理速度提升 60%-85%，还引入峰谷定价机制。