「性能模型」共找到 8353 篇相关文章
推理成本骤降75%！gpt-oss用新数据类型实现4倍推理速度，80GB显卡能跑1200亿参数大模型
OpenAI在gpt - oss开源模型采用MXFP4数据类型，使推理成本降75%，内存占用为BF16模型四分之一，生成token速度提4倍，还能降低硬件资源需求。不过MXFP4也有缺陷，英伟达推出NVFP4提升质量。
0.01%参数定生死！苹果揭秘LLM「超级权重」，删掉就会胡说八道
苹果研究人员发现大模型中极少量的「超级权重」，即便占比仅0.01%，对模型能力影响巨大。这一发现为大模型「科学瘦身」提供思路，还提出定位方法，助力模型量化和未来研究。
对话原力灵机周而进：模型2.4B就够用，关键是“具身原生”；能闭环才是最高效方法
原力灵机推出首个具身原生模型产品DM0，仅2.4B参数，却能支撑实时处理画面与真机进化。其合伙人周而进称要走具身原生路线，还介绍了数据采集、模型训练等多方面内容及公司发展规划。
大模型狂叠 buff、Agent乱战，2025大洗牌预警：96%中国机器人公司恐活不过明年，哪个行业真正被AI改造了？
InfoQ编辑部发布《2025年度盘点与趋势洞察》，探讨大模型、Agent等领域变化，分析行业被AI改造情况。指出2025年格局重塑，竞争焦点转变，国内AI有进展但与硅谷有差距，还介绍了大模型、Agent、AI Native等发展趋势。
爆冷！字节Seed 在CCPC 决赛只做出一道签到题，而DeepSeek R1 直接挂零？
第十届 CCPC 举行，字节 Seed 携 Seed - Thinking 参赛，结果意外，仅做出一题，DeepSeek R1 挂零。不同模型架构表现差异不大，暴露出大模型做算法题短板，推理模式表现更好。
超 10 万人都在看！Qwen3重塑文本嵌入与重排序技术版图
文本嵌入和重排序是NLP和信息检索关键组件。Qwen3 Embedding、Qwen3 Rerank模型基于Qwen3基础模型构建，有三种参数尺寸。文章介绍其架构、训练方案，还给出实战代码。
还在为AI数据发愁？张文涛和鄂维南院士团队推出Data-centric AI系统
近年来大模型发展由科技公司主导，其数据资源不公开，学术界构建优化数据难。张文涛和鄂维南院士团队推出DataFlow系统，可实现数据治理，有算子和流水线，支持文本模态，多模态版待推出。
1000 行 Java 代码手搓 OpenAI gpt-oss 推理引擎
2025年8月OpenAI发布gpt - oss，作者受相关项目启发，用约1000行Java代码实现gpt - oss推理引擎并发布在亚马逊官方github。文章分享开发体会，介绍模型架构、Java实现、性能优化等内容。
4倍无损压缩Diffusion，6倍加速！仅需时间特征维护 | TPAMI'25
扩散模型时间特征对量化敏感，现有量化方法会致其扰动，影响图像质量。港科大等多校团队提出TFMQ - DM框架，优化时间特征相关模块，提升低比特量化性能，实现硬件加速。
从零开始200行python代码实现LLM
文章从传统思路出发，用Python实现极简大语言模型，介绍从零基础到Bigram模型的过程，包括词汇表、模型训练推理等内容，还讲解了PyTorch基础，最后实现pytorch版Bigram模型，后续将实现完整GPT。