「1.5B模型」共找到 9233 篇相关文章
推理成本骤降75%！gpt-oss用新数据类型实现4倍推理速度，80GB显卡能跑1200亿参数大模型
OpenAI在gpt - oss开源模型采用MXFP4数据类型，使推理成本降75%，内存占用为BF16模型四分之一，生成token速度提4倍，还能降低硬件资源需求。不过MXFP4也有缺陷，英伟达推出NVFP4提升质量。
0.01%参数定生死！苹果揭秘LLM「超级权重」，删掉就会胡说八道
苹果研究人员发现大模型中极少量的「超级权重」，即便占比仅0.01%，对模型能力影响巨大。这一发现为大模型「科学瘦身」提供思路，还提出定位方法，助力模型量化和未来研究。
大模型狂叠 buff、Agent乱战，2025大洗牌预警：96%中国机器人公司恐活不过明年，哪个行业真正被AI改造了？
InfoQ编辑部发布《2025年度盘点与趋势洞察》，探讨大模型、Agent等领域变化，分析行业被AI改造情况。指出2025年格局重塑，竞争焦点转变，国内AI有进展但与硅谷有差距，还介绍了大模型、Agent、AI Native等发展趋势。
Claude 和 Manus 还要人工搭框架？小米直接让 Agent 自我进化
6月12日小米Darwin Agent Team发布论文《HarnessX》，用“系统自进化”终结Harness人工调优时代，带来性能跃升。其让Harness成为“一等公民”，有可组合等特质，还能与模型协同进化，虽有局限但成热门方向。
清华团队首发OpenClaw研究报告！
清华沈阳教授团队发布《OpenClaw发展研究报告1.0》和《OpenClaw自我研究报告1.0》，对OpenClaw做深度解读。团队在OpenClaw领域形成完整闭环，包括理论研究、模型研发等多方面工作。
DeepSeek-V3.2-Exp：用稀疏注意力打破长文本效率瓶颈
在NLP领域，处理长文本时传统注意力机制效率低。DeepSeek团队推出DeepSeek-V3.2-Exp模型，引入稀疏注意力机制，在保持性能同时提高长文本处理效率，降低计算复杂度，在多基准测试中表现良好。
4倍无损压缩Diffusion，6倍加速！仅需时间特征维护 | TPAMI'25
扩散模型时间特征对量化敏感，现有量化方法会致其扰动，影响图像质量。港科大等多校团队提出TFMQ - DM框架，优化时间特征相关模块，提升低比特量化性能，实现硬件加速。
谷歌Transformer过时了？清华姚班校友等三连击，爆改注意力！
谷歌提出新架构，参数减少40%，训练速度较RNN提升5 - 8倍，某些任务性能超Transformer 7.2%。新架构引入注意力偏向策略，用「保留」取代「遗忘」，还提出Moneta、Yaad、Memora三个新模型，在多任务上表现卓越。
天塌了，Claude 全面断供Windsurf！CEO喊冤控诉也挡不住开发者退订，祸起OpenAI收购？
当地时间6月4日，Anthropic切断Windsurf几乎所有Claude 3.x模型访问权限。此前Anthropic就拒绝为Windsurf提供Claude 4系列模型支持。有观点认为这与OpenAI收购Windsurf有关，但双方未承认。
从零开始200行python代码实现LLM
文章从传统思路出发，用Python实现极简大语言模型，介绍从零基础到Bigram模型的过程，包括词汇表、模型训练推理等内容，还讲解了PyTorch基础，最后实现pytorch版Bigram模型，后续将实现完整GPT。