「低延迟推理」共找到 2941 篇相关文章
基于闪电注意力机制,创新高效开源大模型
传统Transformer架构处理长文本和复杂推理任务有效率瓶颈,多数领先模型仍依赖传统注意力设计。MiniMax开源基于闪电注意力机制的专家混合模型Minimax,从架构、创新模块、训练框架等多方面优化,表现突出。
告别Transformer!北大、北邮、华为开源纯卷积DiC:3x3卷积实现SOTA性能,比DiT快5倍!
北大、北邮和华为研究提出纯卷积扩散模型 DiC,抛弃自注意力机制回归 3x3 卷积。它性能超 DiT,推理速度快 5 倍,证明精心设计的卷积网络在生成任务中也能表现卓越。
Gemini新版蝉联竞技场榜一,但刚发布就被越狱了
谷歌深夜官宣Gemini 2.5 Pro推出新版本(0605),在代码、推理等任务表现提升,超o3,Elo评分也提高。但发布两小时就被越狱,还被指部分指标较早期版本退步。
飞书让表格变成「AI同事」加入群聊,不打开表就能用表
6月23日,Anthropic发布Claude Tag,让Agent进入Team Agent时代。飞书多维表格新功能「多维表格智能体」上线,思路类似,能让Agent成团队同事。它补齐权限和长期记忆,低门槛、可信,能主动工作。
Claude Opus 4.7,全网差评!刚升级就翻车,用户怒斥:还我4.6
Claude Opus 4.7刚发布就遭全网吐槽,价格贵50%,性能却严重倒退,出现幻觉、计算拉胯等问题。用户质疑Anthropic为省钱缩水模型,罪魁祸首可能是新引入的“自适应推理”功能。
逼AI当山顶洞人!Claude防话痨插件爆火,网友:受够了AI废话
一个叫「caveman」的Claude Code插件在Hacker News爆火,冲破2w星。它核心是条prompt,删掉冠词等废话,号称省75%输出token。但它不压缩模型后台推理token,真实成本节省存疑。
马斯克开「AI救国猛药」:3年解决美38万亿国债危机!
马斯克称AI和机器人3年内能解决美38万亿国债危机,他旗下几家公司正技术对接,构建以AI为核心的文明操作系统。同时,华尔街抛弃英伟达,谷歌TPU因性价比优势切入推理市场。
阿里新王牌千问 APP 曝光:全面硬刚 ChatGPT
11月14日阿里开启「千问 APP」公测,其集成通义千问 Qwen 系列顶尖模型,有多模态能力。它对标 ChatGPT,在中文语境和结构化输出上有优势,实测处理财报、麻将推理等表现佳。
代季峰陈天桥联手AGI首秀炸场!最强开源深度研究模型,GAIA测试82.4分超OpenAI
MiroMind ODR是代季峰加盟陈天桥后的技术首秀,GAIA测试82.4分超OpenAI。它全开源可复现,包括MiroFlow、MiroThinker等四个子项目。团队还曾推出MiroMind - M1,专注提升数学推理能力。
Meta全开源HumanCLAW:基础模型正进入具身智能的决策层
过去基础模型主要理解和描述物理世界,如今开始进入机器人控制栈。Meta等提出HumanCLAW,将高层行动与低层运动控制分开。评测显示当前模型在行动决策上存在不足,未来可从多方向推进研究。