「并行推理加速」共找到 2686 篇相关文章
DeepSeek开源的文件系统，是如何提升大模型效率的？
2月28日，DeepSeek开源高性能分布式文件系统3FS以解决人工智能训练和推理挑战。介绍了分布式文件系统优势，深入解读3FS的组件、CRAQ协议等，还探讨其与其他系统差异及性能相关问题。
Pony Alpha新模型炸场！全球「猜爹大赛」开启
2月7日深夜，OpenRouter悄悄上线匿名模型Pony Alpha，其编程、推理等体验出色，外网瞬间疯传。全球开启‘猜爹大赛’，Claude、DeepSeek、Grok、GLM各派开吵，还凸显了‘匿名盲测式发布’新打法。
微软 Build 2025：AI 智能体时代与开放智能体网络的构建
微软 Build 2025 大会展示迈向 AI 智能体时代路径，如发布新功能助力开发者，让 AI 智能体更强大安全，支持开放智能体网络，还推出平台加速科学发现。
Meta超级智能实验室首篇论文：重新定义RAG
Meta超级智能实验室首篇论文提出REFRAG框架，重新定义RAG。它通过“压缩、感知、扩展”流程优化LLM处理外部知识方式，最高将首字生成延迟加速30倍，且性能无损。
DeepMind大佬最新暴论：单体大模型穷途末路，未来买的不是模型，是"智能路由"
DeepMind研究员Andrew Trask认为，因Scaling Law对资源需求攀升，AI将成协议而非程序。组合不同厂商模型有优势，当主流榜单同等评分时变革加速，之后人们将买“智能本身”。
OpenAI发布新模型 GPT-Rosalind：专攻生物学、药物发现和转化医学
OpenAI发布生命科学前沿推理模型GPT - Rosalind，目标是生物学研究等领域。它是生命科学模型系列首款产品，在多方向表现强。当前以研究预览版向特定合作机构开放，有意机构可申请。
Claude Sonnet 4.5发布，多领域性能超越GPT-5和Gemini 2.5 Pro
Anthropic发布Claude Sonnet 4.5，是目前最强编程模型，在多领域性能超GPT - 5和Gemini 2.5 Pro。操作电脑、数学推理能力提升，产品更新功能丰富，安全性增强，价格不变，获多家公司认可。
叶子豪、陈天奇等人开源项目FlashInfer入选，MLSys2025最佳论文奖公布
近日，MLSys 2025公布最佳论文奖，FlashInfer等入选。FlashInfer由多机构合作发起，是灵活的LLM推理内核库，优化内存访问、有可定制模板和调度机制，性能提升显著。另一获奖论文提出Negativa - ML可消除ML框架臃肿。
大模型也需要睡觉！让AI打个盹，醒来更聪明
卡内基梅隆大学和马里兰大学研究发现，大模型处理长上下文易累傻。受人脑机制启发，设计睡眠机制，让模型在上下文窗口快满时打盹，反复咀嚼信息，压缩进长期权重。测试显示，增加“睡眠”轮次能提升深度推理表现。
OpenAI版“豆包手机”细节曝光！最快一年内量产，预计出货3000万台
郭明錤称OpenAI智能体手机进入加速研发，量产或从2028年提前到2027年上半年，预计2027 - 2028年合计出货约3000万部。此手机从底层重新设计，处理器由联发科定制。