「模型优化器」共找到 8298 篇相关文章
最新发现！每参数3.6比特，语言模型最多能记住这么多
Meta、DeepMind等团队研究语言模型记忆容量，提出新方法估计模型对数据点的‘了解’程度，发现GPT系列模型约每个参数3.6比特，还提出模型容量等相关定律，激发社区多方面思考。
数千大模型全跑「中国芯」！最后一公里已「焊」通
国产芯片运行大模型需额外适配，魔乐社区以开源模型推理适配协作模式破局。它推出‘模型推理适配协作计划’，联合多方力量，打通国产算力与大模型应用‘最后一公里’，还举办赛事激发创新活力。
中科院类脑大模型SpikingBrain，2%数据，百倍速度
中国科学院自动化研究所李国齐、徐波团队发布全球首款大规模类脑脉冲大模型SpikingBrain 1.0。它处理长文本比主流Transformer模型快超百倍，训练数据仅为2%。该模型采用新架构，降低计算复杂度，还可转换现有模型，且在国产GPU完成训练。
图灵奖得主LeCun最后警告Meta！我搞了40年AI，大模型是死路
图灵奖得主Yann LeCun预计将很快离开Meta。因Meta风向转变，LeCun失势。他投身AI研究40年，认为大语言模型是死路，世界模型才是未来，或为此离开Meta并计划创业。
SGLang原生支持昇腾，新模型一键拉起无需改代码
12月20日SGLang AI金融π对收官，聚焦大模型推理效率。昇腾成SGLang原生支持后端，助DeepSeek等模型免调参运行。SGLang给出推理系统工程解法，昇腾与SGLang深度共建，性能优且全面拥抱开源。
大语言模型的解耦：人工智能基础设施的下一轮进化
人工智能模型发展快，但基础设施滞后，传统单体式服务器架构成瓶颈。文章介绍大语言模型推理的预填充与解码阶段差异，指出解耦架构可突破困境，还阐述其经济影响、实施策略、应用案例及未来展望。
公开模型一切，优于DeepSeek-R1，英伟达开源Llama-Nemotron家族
英伟达推出面向高效推理的 Llama-Nemotron 系列模型，包括 Nano、Super、Ultra 等规模，具备卓越推理能力与效率，采用开放许可。模型支持动态推理切换，训练结合多方法，性能优于 DeepSeek-R1 等。
OpenAI的开源，补全了亚马逊云科技模型生态的最后拼图
8月5日OpenAI上线两款开源模型，亚马逊云科技随即在旗下平台上线。此前微软借合作优势使Azure高速增长，如今OpenAI开源，亚马逊云科技模型生态更丰富，其产品受客户好评，增长势头难挡。
只因一个“:”，大模型全军覆没
一篇论文发现冒号等符号、“Thought process：”等语句能欺骗LLM，让虚假回答通过。实验表明所有测试模型都会触发假阳性响应。研究人员构建新“评委”模型Master - RM，可让假阳性率接近0%。
DeepMind揭示Reasoning内在机制
近年来大型推理模型在复杂任务表现出色，但推理机制成谜。本文提出用推理图解码其‘思考轨迹’，分析环状结构、直径大小和小世界特性，发现蒸馏模型等特点，为理解AI推理及模型优化指明方向。