「大模型效率」共找到 9839 篇相关文章
刚刚！Thinking Machines Lab ｜ 长文揭开LLM推理不确定性真相！
Thinking Machines Lab发布《克服LLM推理中的不确定性》，揭示大语言模型推理不确定性原因，并非“并发 + 浮点”假设那么简单，主要是负载及batch size不确定所致，还给出让核函数有批次不变性的方法及实验结果。
3A大作！阿里ROLL团队从基建->算法->机理，推动RL4LLM全栈协同优化
阿里巴巴ROLL团队联合高校推出「3A」协同优化框架，推动「强化学习用于大语言模型（RL4LLM）」迈向新范式。Async架构提升GPU利用率，AsyPPO降低计算资源消耗，Attention机制提升训练效率与可解释性。
当 Token 成为商品，AI 基础设施会怎么变化？
在大模型时代，智能生产和交付未实现工业化，存在性能鸿沟。九章云极提出AI工厂战略，发布Alaya NeW Cloud 3.0，将从资源计量转向智能计量，打造训练和Token工厂，提升算力到有效Token的转化效率。
ChatGPT要卖 500 美元的Pro Max套餐了！
本文爆料OpenAI正筹备月费500美元的ChatGPT Pro Max订阅套餐，价格为现有顶配的2.5倍，主打最快算力优先级，面向重度生产力用户。因前沿大模型算力消耗过大，业界讨论顶尖AI是否会成为高价特权。
RoboScience机器科学发布轮式仿人形通用机器人REX G1，让机器人真正成为新一代具身生产力伙伴｜甲子光年
8月17日，RoboScience机器科学发布轮式仿人形通用操作机器人REX G1，搭载自研的Visics通用具身大模型，面向多场景打造，能完成完整任务闭环。它将移动与操作融合，适应真实环境，具强大泛化能力且续航佳。
独家｜「中科第五纪」完成数亿元A轮融资，率先开启海外商业落地
AI科技评论独家消息，具身智能企业「中科第五纪」近日完成数亿元A轮融资，年内已完成三轮。该公司还收获海外数亿订单。其提出超少样本具身操作大模型等核心技术，形成完整技术体系。
我觉得“Agent”这个词，现在终于有了一个大家都认可的定义了
作者Simon Willison认为现在‘Agent’有了大家认可的定义，即一个AI Agent是为实现目标循环调用工具的大语言模型。还分析了此前难统一定义的情况、‘工具循环实现目标’含义，指出不同人群对‘Agent’理解有偏差。
Claude 最歧视的，是印度阿三
AI研究员Aran Komatsuzaki实验发现，Claude的tokenizer对非英语用户不友好，印地语用户消耗token是英语的3.24倍，带来高成本、高延迟等问题。不同模型对不同语言token处理有差异，市场份额影响token效率。
图灵奖得主杨立昆：中国人并不需要我们，他们自己就能想出非常好的点子
本文是对图灵奖得主杨立昆的访谈，他批判当前大语言模型局限性，指出难以靠扩大规模达人类水平AI。还强调理解世界需非生成式架构，如JEPA。同时以DeepSeek为例，称开源发展更快，中国人能想出好点子。
我给阶跃星辰 Step 5 Preview 出了一道工程题
本文作者池建强参与阶跃星辰新一代旗舰大模型Step 5 Preview小范围内测，设置带两层bug和隐藏需求的编码工程题，与Qwen 3.8 Max、Kimi K3对比测试，分享实际项目使用体验，给出客观评测。