多Token预测」共找到 4968 篇相关文章

开源动态7

推理成本骤降75%!gpt-oss用新数据类型实现4倍推理速度,80GB显卡能跑1200亿参数大模型

OpenAI在gpt - oss开源模型采用MXFP4数据类型,使推理成本降75%,内存占用为BF16模型四分之一,生成token速度提4倍,还能降低硬件资源需求。不过MXFP4也有缺陷,英伟达推出NVFP4提升质量。

量子位
算法论文8

POF|西工大廖晖、刘溢浪等:数据驱动的湍流建模:基于符号回归与数据同化的双向耦合框架

针对传统湍流模型在高雷诺数分离流动中精度不足与耦合不稳定问题,本文提出融合符号回归与数据同化的白箱建模框架(DASR)。该方法提升了模型稳定性与预测准确性,在复杂条件下有良好泛化能力。

力学与人工智能
推荐文章8

LLM-based Agent的代码生成综述

这篇2025年的综述指出,传统代码生成技术难完成复杂开发任务,而基于大语言模型(LLM)的代码生成代理应运而生。它把LLM作为“大脑”,具备自主规划等能力。文章梳理了该领域的核心特征、技术体系、应用实践等,也剖析了挑战与未来方向。

深度学习自然语言处理
推荐文章8

用系统架构思维,告别“意大利面条式”系统提示词

本文作者分享编写系统级提示词经历,指出‘规则清单式’设计有规则打架、维护难、价值稀释问题。引入系统架构思维,构建四层设计框架,给出编译原则与模板,还重构‘AI编程助手’提示词,实现从‘规则管理者’到‘系统设计师’转变。

阿里云开发者
产品应用8

全新 AI 消息模型:Apache RocketMQ 如何让 AI 应用拥抱事件驱动架构?

AIGC浪潮下,大语言模型重塑应用开发范式,开发者构建AI应用面临诸挑战,需可靠高效的异步通信机制。Apache RocketMQ在AI时代演进,有轻量化通信与智能化资源调度两大创新,还介绍了场景实践。

InfoQ
产品应用8

腾讯混元A13B用130亿参数达到千亿级效果,Flash Attention作者点赞

腾讯混元A13B模型仅130亿激活参数,却能和千亿级大模型竞争,获Flash Attention作者赞叹。它精准卡位性能与效率‘甜蜜点’,依托高质量预训练和结构化后训练,方面表现突出且已全面开源。

量子位
开源动态8

杨植麟被梁文锋叫醒了!Kimi新模型发布即开源,1T参数全线SOTA

172天后,Kimi推出全新Kimi K2基础大模型回应DeepSeek冲击。它为MoE架构,1T参数,激活参数32B,在任务上领先,发布即开源,还分享技术细节,实测有亮点也待优化,展现回归之势。

量子位
开源动态8

DeepSeek-R1超级外挂!“人类最后的考试”首次突破30分,上海交大等开源方案碾压OpenAI、谷歌

上海交大联合深势科技团队发布新研究,在“人类最后的考试”(HLE)上获32.1分创纪录。团队推出工具增强推理智能体X - Master、智能体工作流系统X - Masters并开源,方案表现优于OpenAI、谷歌相关模型。

量子位
新闻资讯7

专访AI.Talk赵汗青 - 我不是一个创作者。

文章专访AI.Talk赵汗青,探讨AI虚拟IP YURI爆火背后的故事。赵汗青以构建虚拟人格为目标,借AI.Talk探索,让YURI领域发展。他还谈到IP构建、商业模式及运营思路等,强调做有溢价之事。

数字生命卡兹克
7

首届国产机器人足球赛,最忙的是担架

国内首个机器人主体足球赛在北京举行,四支高校战队用加速进化T1平台参赛,全程机器人自主行动。清华火神队夺冠,不过比赛中机器人失误。主办方预计5年提升其水平,赛事目标是2050年机器人队夺世界杯。

量子位