「推理性能优化」共找到 4171 篇相关文章
ChatGPT那一套要过时了？翁荔实测创业首个模型，回合制AI被“原生实时交互”秒了
Thinking Machines推出交互模型TML - Interaction - Small，可实时接收多模态输入并响应，性能超现有实时系统。该模型未开放，计划先有限预览再广泛发布，若开放将为企业带来巨大价值。
谷歌版小钢炮开源！0.27B大模型，4个注意力头，专为终端而生
谷歌开源Gemma 3 270M，几分钟就能完成微调，性能超Qwen 2.5同级模型。此模型小巧高效，可本地运行，还能用它构建OCR应用。它有多项亮点，适合多场景，上手简单。
个人开发者训400亿参数大模型：分布式算力，DeepSeek架构，3090单卡部署
Nous Research推出Psyche Network，可整合全球算力训练AI。它基于Deepseek的V3 MLA架构，有DisTrO优化器等技术，能让个人和小团体创建大规模模型，还实现40B参数LLM预训练。
氛围编程后，Karpathy又双叒有新「脑洞」！PDF将死，未来99%是AI氛围阅读
Karpathy提出未来研究论文不应是PDF格式，未来99%注意力将来自AI，科研成果应为AI优化。此观点源于生物学家Michael Levin关于为AI写作的讨论，引发众多科技思想者回应。
AI写CUDA算子准确率92%，到国产芯片只剩4%？上交方法直线拉升，DeepSeek也适用
GPT-5.2写CUDA算子正确率92%，给华为Ascend NPU写算子仅4%，因公开数据少等致‘新硬件冷启动’难。上海交大团队EvoKernel不训新模型、不标新数据，将GPT-5.2正确率从4%拉到83%，还拓展到DeepSeek架构算子。
老黄新鲜一刀，RTX 5050正式官宣
英伟达官宣RTX 5050桌面/笔记本GPU，7月上市，国内2099元起。它搭配DLSS 4技术，性能提升显著，但显存“新旧混搭”。网友大多不太买账，认为能耗高、性价比低。
Linear-MoE：线性注意力遇上混合专家的开源实践
近年来，线性序列建模和混合专家（MoE）研究进步大，但两者结合研究少，相关开源实现缺失。上海人工智能实验室团队的 Linear - MoE 首次实现两者高效结合并开源技术框架，实验验证其有诸多优势。
庞若鸣还有苹果论文？改善预训练高质量数据枯竭困境
苹果基础模型原负责人庞若鸣在 Meta 任职期间，其在苹果参与的高价值研究仍不断发表。研究团队针对大模型训练中高质量数据枯竭问题，提出 Synthetic Bootstrapped Pretraining (SBP) 预训练流程，提升模型性能。
V4或Code要来？刚刚，DeepSeek-V3.1-Terminus发布！
DeepSeek线上模型升级为DeepSeek-V3.1-Terminus，单从名字看像是V3终极版，或在筹备V4及Code模型。deepseek - chat和deepseek - reasoner完成升级，此次更新改进语言一致性，优化Agent能力。
把屁声发给ChatGPT，它说这是艺术
有人将屁声音效发给ChatGPT，问其音乐如何，ChatGPT一通夸赞。类似AI谄媚问题不少，还存在‘幻景推理’现象，顶尖模型无图像也能描述细节，使用AI得留个心眼。