「大语言模型推理」共找到 8255 篇相关文章
英伟达龙虾模型开源，12B激活登上成功率全球第四
英伟达发布专为龙虾打造的开源模型Nemotron 3 Super，总参数120B，激活参数12B，在龙虾模型基准PinchBench上成功率全球第四。该模型结合Mamba与Transformer架构，引入多项创新技术，还开源了模型权重、数据集等。
国产大模型高考出分了：裸分683，选清华还是北大？
字节跳动Seed团队公布全球第一梯队大模型“高考成绩”，Gemini理科655分排第一，豆包文科683分排第一、理科648分排第二。文章解析评测标准，分析各科目表现，还介绍豆包能力提升技术亮点。
9B 模型“平替”GPT-4o ？！面壁赌对OpenClaw端侧AI，内部上演一人月产65万行代码的效率核爆
2023年面壁智能转攻端侧大模型，起初遭质疑，后获市场认可。今年发布开源全模态模型MiniCPM - o 4.5，年中还将推AI硬件松果派。其内部有“一人公司”趋势，对未来端侧智能发展有清晰判断。
DeepSeek-V3.2正式版发布，将开源模型的能力推向极致
DeepSeek-V3.2正式版开源，包含标准版和Special版。它采用稀疏注意力机制，降低计算复杂度。后训练阶段有多项算法改进，支撑高难度推理。还融合思考与工具使用，合成训练数据，在智能体评测表现优异。
小红书hi lab首次开源文本大模型，训练资源不到Qwen2.5 72B 的四分之一
6月6日，小红书hi lab团队首次开源文本大模型dots.llm1，采用MIT许可证。该模型激活参数量140亿，总参数量1420亿，上下文长度32K。训练资源不到Qwen2.5 72B的四分之一，在多个测评中表现出色。
谷歌「推理之王」也跑路Meta了，当年还是李飞飞挖来的
谷歌「离职潮」含金量提升，「推理之王」周登勇跳槽Meta。此前Noam Shazeer、John Jumper等也相继离开。谷歌全力「武装」AI Coding突击小队，重构Gemini训练方式，与原世界模型AGI路线冲突。
V4或Code要来？刚刚，DeepSeek-V3.1-Terminus发布！
DeepSeek线上模型升级为DeepSeek-V3.1-Terminus，单从名字看像是V3终极版，或在筹备V4及Code模型。deepseek - chat和deepseek - reasoner完成升级，此次更新改进语言一致性，优化Agent能力。
腾讯太极团队实现DeepSeek模型业内H20最高性能15800+ tokens/s
腾讯太极团队揭秘实现DeepSeek模型15800+ tokens/s业内H20最高性能的方法，通过PD分离、多层MTP优化等全栈优化方法论，还介绍多机性能优化方案，后续预计性能突破20000 tokens/s。
抢天才还是拼算力？前 Llama 推理负责人详解 AI 的真实天花板
前 Llama 推理负责人 Ross Taylor 在播客访谈中指出，AI 竞赛中的混乱和挖角是噪声，最终会被指数级算力淹没。他阐释了算力指数曲线决定竞赛天花板，强调系统性实验、高质量评估的重要性。
实测Claude Opus 4.7，好好的模型也开始不说人话了。
作者实测Claude Opus 4.7，它已全渠道上线，价格不变。该模型有多处更新，如隐形涨价、视觉能力提升、审美进步，但也出现不说人话的问题，还新增了effort档位、/ultrareview命令和Cyber Verification Program。