「推理时计算」共找到 2174 篇相关文章
马斯克说漏嘴了！Claude Opus参数5T，Sonnet 1T
马斯克发帖透露xAI的Colossus 2超算训练模型情况，还回应网友时“手滑”泄露Claude的Sonnet 1T、Opus 5T参数。此外，文章梳理网友对Claude各版本参数的推测，也提到Anthropic未发布模型Claude Mythos。
奥特曼曝惊世预言：2035年GPT-8治愈癌症！人类将为算力爆发三战
新智元报道，GPT - 5发布引热议，奥特曼在访谈中金句不断。他预言2027年AI有重大科学突破，2035年GPT - 8或治愈癌症，2050年人类可能为AGI算力争夺爆发三战，还谈及AI发展瓶颈、对人类影响等。
Gemini 3.5 Pro绝密泄露，前端赶超Fable 5！
全网被Gemini 3.5 Pro泄露刷屏，传闻7月17日发布。它在前端生成表现出色，一次成型、精准零失误，性能超Fable 5，但在硬核推理等任务上不如Fable 5和GPT - 5.6。谷歌为其重预训练，还准备对标GPT - Image 2的图像模型。
SAPO：让强化学习告别“硬剪切”
强化学习是提升大语言模型推理能力的核心技术之一，但现有基于组的策略优化方法面临 token 级重要性比率高方差问题。GRPO 和 GSPO 采用硬剪切有学习信号丢失等缺点。为此提出 SAPO，用平滑门控函数替代硬剪切，实验效果良好。
超越Claude 3.5和o1！8B模型靠「分层投票+测试时训练」逆袭
近日MIT研究者发现测试时训练在大模型应对复杂推理问题时，能分解任务提升回答准确率。8B的lemma3模型经此方法，在ARC和BBH数据集上性能显著提升，超Claude 3.5等。但该策略部署效率低。
模型训练最重要的依然是 Scaling —— 对话阿里通义千问 Qwen 多语言负责人杨宝嵩 | Open AGI Forum
本文是对阿里通义千问Qwen多语言负责人杨宝嵩的专访。他透露Qwen一开始就将国际化视作核心战略，团队建立文化标注体系确保内容安全合规。还谈到多语言推理难题及应对策略，认为扩大模型规模和数据量仍重要，合成数据是延续Scaling Law的关键。
Claude最强领域被GPT反超！GPT 5.5最难编程基准破0
编程领域曾由Claude引领，如今GPT 5.5在大模型解决率为0%的最难编程基准上实现突破。程序重建基准测试（ProgramBench）考验严苛，过往模型解决率为0，GPT 5.5高和超高推理模式成功破局，展现了不同解题风格。
SGLang Custom AllReduce v1 与 v2 实现原理详解
文章聚焦 SGLang 里两代自定义 all-reduce 实现（v1 和 v2），前者从 vLLM 移植，后者是默认版本。详述其负载特征、前提条件、分发链、同步机制、算法及 CUDA graph 支持等内容，还对比了两代差异，并提及相关环境变量。
【博客翻译】使用PyTorch加速生成式AI第四部分：Seamless M4T，快速优化
这是使用纯原生PyTorch加速生成式AI模型系列博客的第四部分，专注加速FAIR的Seamless M4T - v2模型。通过torch.compile + CUDA Graph，在不损失精度下实现text decoder模块2倍、vocoder模块30倍加速，端到端推理2.7倍加速。
AI大模型开发核心技术栈：从框架到部署的全景解析
本文为开发者提供2025年AI大模型开发核心技术栈图谱，解析四大核心支柱技术。基础开发框架含深度学习与AI Agent框架；模型训练与微调有分布式训练、参数高效微调；推理优化含关键技术与主流框架；AI编程辅助工具分主流形态且有发展趋势。