「大语言模型推理」共找到 8255 篇相关文章
OpenAI发布新模型 GPT-Rosalind：专攻生物学、药物发现和转化医学
OpenAI发布生命科学前沿推理模型GPT - Rosalind，目标是生物学研究等领域。它是生命科学模型系列首款产品，在多方向表现强。当前以研究预览版向特定合作机构开放，有意机构可申请。
AgentCPM-Explore开源，4B 参数突破端侧智能体模型性能壁垒！
当全行业争论30B能否挑战万亿参数时，清华大学等联合研发的AgentCPM - Explore智能体模型用仅4B参数，在深度探索类任务有出色表现，且开源全流程配套工具，打破小模型性能局限。
英伟达叫板DeepSeek？怒投260亿美元，要打造最强开源模型
英伟达已成为人工智能时代基础设施的一部分，2023年11月推出首个Nemotron模型进入通用大模型领域。未来五年将投260亿美元构建开源模型，还发布了性能最强的开源模型Nemotron 3 Super。
跳过88%专家，保住97%性能！MoE推理的正确玩法| CVPR’26
多模态大模型走向大规模，MoE架构虽降低计算开销，但推理成本仍高。香港科技大学等团队提出MoDES，它是training - free动态专家跳过框架，能跳过88%专家还保留97%性能，推理速度提升2倍。
OpenAI主攻速度的第一个模型来了：GPT‑5.3‑Codex‑Spark
OpenAI发布GPT-5.3-Codex-Spark，是GPT-5.3-Codex轻量级版本，也是首个为实时编程设计的模型。亮点是速度快，推理超每秒1000 token，已向ChatGPT Pro用户开放，后续规划融合两种工作模式。
陈大年复出，入局大模型
国产大模型领域黑马StartLux-V1.0-27B-Preview，参数量仅27B，在信通院MCP测试中排综合第二，仅次于1.6万亿参数量的DeepSeek-V4-Pro。其创始人陈大年押注本地模型，公司专注该领域商业化。
NVIDIA重磅开源！OmniVinci 仅 9B 模型就拿下多模态冠军！
英伟达推出全模态大语言模型 OmniVinci，架构有三大创新。OmniVinci - 9B 模型表现亮眼，多测试中大幅超 Qwen2.5 - Omni，且训练量仅为其六分之一。其架构经多阶段流程实现全模态理解，还支持多种功能。
静态稀疏已死：Flux Attention 开启长文本 LLM 自适应推理新时代
文章指出长上下文LLM高效推理面临性能与效率难题，先介绍Elastic Attention打破静态稀疏桎梏，后重点阐述全新的Flux Attention，它将动态稀疏注意力范式升级为层级别路由，解决了算法与硬件的矛盾，在多方面实现突破。
全面战胜ReAct！斯坦福全新智能体推理框架，性能提升112.5%
斯坦福和MIT团队推出新AI智能体推理框架ReCAP，在长上下文任务中全面超越ReAct，性能提升显著。它通过独特结构和三大机制解决大模型常见问题，虽成本增加，但在关键任务表现出色，潜力巨大。
Mamba核心作者新作：取代DeepSeek在用的注意力机制，专为推理打造
Mamba核心作者Tri Dao团队提出GTA和GLA两种专为推理定制的注意力机制，在减少KV缓存用量、保持模型质量的同时，显著提升解码速度，优化长上下文推理能力。