「1M上下文」共找到 2403 篇相关文章
SGLang Custom AllReduce v1 与 v2 实现原理详解
文章聚焦 SGLang 里两代自定义 all-reduce 实现（v1 和 v2），前者从 vLLM 移植，后者是默认版本。详述其负载特征、前提条件、分发链、同步机制、算法及 CUDA graph 支持等内容，还对比了两代差异，并提及相关环境变量。
跟上 AI 的节奏：为演进式架构构建上下文存储库
本文探讨AI辅助开发带来的上下文认知断层问题。在开发中，AI前期提效但后期难题凸显，企业面临团队执行和管理层决策层面隐患。可通过融合三大工程规范构建上下文存储库解决，确保开发逻辑可控。
GPT-5.4 vs Opus 4.6 vs Gemini 3.1：五条结论
2026年3月前沿AI竞争激烈，GPT - 5.4、Opus 4.6、Gemini 3.1 Pro各有千秋。GPT - 5.4领先知识和计算机使用，Gemini 3.1 Pro以低价主导推理，Opus 4.6编程能力强，无单一模型通吃各领域。
国内首次！8.9毫秒推理速度破纪录，1元打穿百万token
在2025人工智能计算大会上，浪潮信息发布元脑SD200和元脑HC1000两款AI服务器。前者让DeepSeek R1的Token生成速度达8.9毫秒，后者将推理成本降至1元/百万Token，解决了AI智能体速度与成本难题。
DeepSeek R1 迎来小更新大升级，性能直逼 OpenAI o3！
昨日，DeepSeek 发布 R1 大模型最新版本 DeepSeek - R1 - 0528 并开启公测。虽官方未附详细技术说明，但用户反馈推理和输出有改进，也有性能方面的不同看法，其在基准测试表现佳。
Google Nano Banana 与 GPT-4o Image 1：哪款 AI 图像生成更好？
2025年8月26日，Nano Banana发布引关注，而GPT - 4o Image 1是主流常用图像生成器。文章从关键指标、生成速度对比二者，又用相同提示词在多种场景对比，分析各有优劣，适用场景不同。
谷歌新架构突破Transformer超长上下文瓶颈！Hinton灵魂拷问：后悔Open吗？
谷歌在NeurIPS 2025发布两项大模型新架构研究，通过‘测试时训练’机制，推理阶段可将上下文窗口扩展至200万token。新成果Titans和MIRAS结合RNN速度与Transformer性能，突破超长上下文瓶颈。
浙大联手字节：开源大规模指令跟随视频编辑数据集OpenVE-3M
浙江大学与字节跳动合作，提出大规模指令跟随视频编辑数据集 OpenVE-3M，有 3M 样本对。还提出数据构造管线、编辑模型 OpenVE-Edit 及评测集 OpenVE-Bench，小参数量下超越现有开源模型。
DeepSeek V3.1更新「最终版」！下一次是V4/R2了？？？
DeepSeek-V3.1更新至DeepSeek-V3.1-Terminus版本，修复了“极你太美”等bug，缓解中英文混杂等情况，优化了Code Agent与Search Agent表现。评测显示输出更稳定，但编程竞赛分数下降引质疑，版本名引发对后续版本猜测。
Claude Sonnet 4 API 支持百万上下文:解锁真正的生产级AI工程
Anthropic宣布Claude Sonnet 4支持100万Token上下文窗口，容量是之前5倍。长上下文支持已向部分客户公测，将推给更多用户。该功能已在亚马逊Bedrock公测，也将登陆Google Cloud。还介绍了用例、定价及早期用户好评。