「压缩推理」共找到 2209 篇相关文章
Qwen3-Embedding 全揭秘：从技术到服务，打造高效AI产品的关键路径
文章全面揭秘 Qwen3-Embedding，介绍其核心原理、优势、应用场景。还给出在 PAI 和百炼平台的使用方法，含部署、推理、微调等。通过对比实验，凸显其低延迟、低成本特点，未来将成语义理解核心设施。
全模态RAG突破文本局限，港大构建跨模态一体化系统
香港大学黄超教授团队开源多模态智能处理系统RAG - Anything，突破传统RAG技术单一文本局限，整合多模态文档解析等核心能力，解决现有RAG系统痛点，具备多方面技术亮点，有便捷部署方式和多场景应用模式。
通向世界模型关键一步：EX-4D来了，实现单目视频到自由视角生成
去年Sora等模型革新视频生成领域，相机可控的视频生成技术是构建世界模型核心。但从单视角生成极端视角视频是难题，PICO - MR团队提出EX - 4D，能从单目视频生成新视角视频，多方面表现出色。
集GraphRAG 和 DeepSearch于一体的智能问答系统graph-rag-agent
本项目结合GraphRAG与私域Deep Search，实现可解释、可推理的智能问答系统。亮点有从零复现GraphRAG、创新融合DeepSearch等，具备多模块功能，还有简单演示，地址https://github.com/1517005260/graph-rag-agent/blob/master/readme.md。
Learning from peers！让LRM互相「传纸条」的新协作方式大幅提高准确率和效率
当前主流大模型如QwQ - 32B存在“前缀主导陷阱”，推理开头出错会使准确率暴跌。研究者受“同伴互助”启发提出LeaP框架，设计三种路由策略，实验显示小模型能借此超越大模型，开创了多种可能性。
小扎万字檄文炮轰硅谷，Meta重磅开源30B小钢炮！一台MacBook就能跑
Meta发布全新30B大模型Muse Glimmer并开源，用4-bit量化等技术让其能在本地设备运行，有五大核心超能力且采用Apache 2.0协议。同时，Meta CEO小扎发表万字檄文暗讽OpenAI等，抨击AI末日论等观点。
Meta开源Muse Glimmer，30B Agent小钢炮跑进你的电脑
Meta发布并以宽松协议开源Agent模型Muse Glimmer。它30B参数，能跑在Mac或PC上，多项Agent基准领先。可完成端到端任务、调用工具及多步推理，接受文本与图像交错输入，用途广泛。
大神周末开源省token野路子，claude fable5账单砍掉6成
外网大神周末开源插件，将模型上下文等渲染成图片，可让账单降低59% - 70%。原理是图片token只与像素尺寸有关。此前因模型识图能力差难落地，fable5证明其极限省钱且效果保留。
当SFT遇上RL：基于样本学习阶段的动态策略优化机制
在大模型推理能力增强研究中，SFT和RL两种后训练范式难有效融合。研究团队提出DYPO动态策略优化方法，先判断样本学习阶段再匹配优化路径，在多场景实验中表现出色，不过有实验边界。
离谱！一句话+百元预算，这只龙虾就给我搓出了一支百万级广告片？
广告片创作成本高、耗时长，生数科技的Vidu Claw能一句话完成创意到成片全流程，同步发布的Video Plan将成本可控化。实测它能胜任多种广告场景，还把工期从N天压缩到1天。