「并行推理加速」共找到 2704 篇相关文章
Qwen3-Embedding 全揭秘：从技术到服务，打造高效AI产品的关键路径
文章全面揭秘 Qwen3-Embedding，介绍其核心原理、优势、应用场景。还给出在 PAI 和百炼平台的使用方法，含部署、推理、微调等。通过对比实验，凸显其低延迟、低成本特点，未来将成语义理解核心设施。
吴恩达YC演讲：AI创业如何快人一步？
吴恩达在YC演讲为AI创业者建议，强调执行速度是衡量创业公司成功的重要指标。他探讨AI技术加速工程和产品反馈等，还谈及AI创业机会在应用层，给出提升创业公司速度的方法等。
全模态RAG突破文本局限，港大构建跨模态一体化系统
香港大学黄超教授团队开源多模态智能处理系统RAG - Anything，突破传统RAG技术单一文本局限，整合多模态文档解析等核心能力，解决现有RAG系统痛点，具备多方面技术亮点，有便捷部署方式和多场景应用模式。
通向世界模型关键一步：EX-4D来了，实现单目视频到自由视角生成
去年Sora等模型革新视频生成领域，相机可控的视频生成技术是构建世界模型核心。但从单视角生成极端视角视频是难题，PICO - MR团队提出EX - 4D，能从单目视频生成新视角视频，多方面表现出色。
集GraphRAG 和 DeepSearch于一体的智能问答系统graph-rag-agent
本项目结合GraphRAG与私域Deep Search，实现可解释、可推理的智能问答系统。亮点有从零复现GraphRAG、创新融合DeepSearch等，具备多模块功能，还有简单演示，地址https://github.com/1517005260/graph-rag-agent/blob/master/readme.md。
亚马逊码农噩梦来袭！沦落「仓库工人」，每天流水线分拣「AI代码」
AI工具广泛引入亚马逊编程工作，虽提升效率，但让程序员工作节奏变快，像流水线工人。亚马逊管理层推崇AI，认为能降成本提效率，可程序员担心创造力被扼杀、职业发展受影响。此外，实验显示AI编码助手能提升开发人员效率。
黄仁勋发布量子计算专用CUDA！预言量子计算机几年内应用，但现在还离不开GB200
在GTC巴黎演讲中，英伟达CEO黄仁勋预言量子计算机几年内可实际应用，还推出量子-经典加速超算平台CUDA - Q。此外，他提及物理AI是战略核心，有巨大市场机会，还展示多款产品与技术。
半年复盘，AI迎来预训练后的新瓶颈。
2025年上半年AI领域发展加速，编码和多模态能力提升。但模型在综合能力上遇到第二轮瓶颈，编码能力强时通用认知能力‘拉胯’，或与RL阶段使用编程数据有关，红杉新基准或推动模型均衡发展。
Learning from peers！让LRM互相「传纸条」的新协作方式大幅提高准确率和效率
当前主流大模型如QwQ - 32B存在“前缀主导陷阱”，推理开头出错会使准确率暴跌。研究者受“同伴互助”启发提出LeaP框架，设计三种路由策略，实验显示小模型能借此超越大模型，开创了多种可能性。
Meta开源Muse Glimmer，30B Agent小钢炮跑进你的电脑
Meta发布并以宽松协议开源Agent模型Muse Glimmer。它30B参数，能跑在Mac或PC上，多项Agent基准领先。可完成端到端任务、调用工具及多步推理，接受文本与图像交错输入，用途广泛。