向量化Padding」共找到 824 篇相关文章

开源动态8

工业级 LLM 数据工程:北京大学 DCAI 团队 DataFlow 框架的架构设计与实践

2026 年大模型研发从‘模型中心’‘数据中心’演进,数据语义密度与工程精度成突破关键。北京大学 DCAI 团队推出 DataFlow 框架,解决数据准备难题,其技术报告登顶 Hugging Face。该框架有多种特性,实验验证其能提升模型性能。

InfoQ
产品应用7

模力工场 030 AI 应用榜:字节新品硬刚 Sora,“随变”登顶榜首

模力工场第 030 周 AI 应用榜揭晓,32 款应用上架,从社区声量高的应用中精选十款。涵盖创作、学习、智能自动化、心理疗愈等领域,上榜应用凸显 AI 从‘简单生成’‘深度交互与高效执行’转变趋势。

AI前线
新闻资讯7

具身导航:感知推理是上帝,还是执行控制是命门?| GAIR Live 023期预告

具身导航正从‘几何避障’‘空间智能’跨越,当前领域经历范式变革。GAIR Live 023期线上圆桌将聚焦其前沿进展与落地问题,邀请两位专家拆解底层逻辑,还给出了核心议题、讨论精华预览及参与方式。

AI科技评论
算法论文8

多模态大模型中Attention机制暗藏「骗局」,需用一个公式修正丨上大×南开

上海大学曾丹团队研究发现,主流VLM中attention受位置偏置和padding区域异常高attention影响,直接用其进行视觉token剪枝会丢失关键信息。团队用公式对attention去偏,集成到多种剪枝方法,提升了模型性能。

量子位
新闻资讯8

独家对话前华为天才少年李元庆:首款规模化具身智能产品中国造!多机异构是未来方

前华为天才少年李元庆加入乐享科技,负责创新业务与技术攻关。他指出世界首个体量化具身智能产品可能在中国出现,多机异构是未来方,还谈具身智能发展现状、难题及应对策略,分享未来规划与建议。

InfoQ
开源动态8

美团开源LongCat-Image,6B参数挑战80B效果,中英双语理解、图像逼真度及复杂指令编辑新突破

美团开源6B参数图像模型LongCat-Image,在双语文本理解、图像逼真度及复杂指令编辑任务中表现出色。它以轻量化设计超越大模型,还解决中文文本渲染难题,有精确图像编辑能力,且提供全链路开源方案。

AIGC开放社区
开源动态8

华为新开源!扩散语言模型突破32K上下文,还解锁了「慢思考」

今年文本生成领域从自回归扩散语言模型转变,但长序列训练不稳定是痛点。华为发布 openPangu-R-7B-Diffusion,将上下文长度扩至 32K,在多基准创 7B 参数量级 SOTA,还解析了其技术革新。

机器之心
算法论文7

MOE RL实战:统一FP8全流程训练

SGLang RL团队等联合完成工作,实现RL中全流程FP8训练与采样。介绍FP8训练硬件基础、格式、scale选择等,指出训练难点,分析KL Loss异常归因,验证其在MoE模型RL应用效果,还探究模型规模对训推不一致性的影响。

GiantPandaLLM
新闻资讯8

OpenAI新模型GPT-5.1发布,不跑分不刷榜,主打一个说人话

OpenAI发布GPT-5.1,主打更智能、更具对话性,无跑分打榜,有人设说人话。包括Instant和Thinking两个子模型,简单问题快,复杂问题智能。本周逐步用户免费开放,还更新了语气风格等功能。

量子位
新闻资讯7

OpenAI商业帝国野心初现,ChatGPT上线“即时结账”功能:聊天就能直接下单

OpenAI为ChatGPT推出“即时结账”功能,由代理商业协议(ACP)支持,可将用户产品发现对话转化为购买行为。商家能在需求源头捕获消费意,用户可在对话内完成购买。目前仅在美国美商开放。

AI寒武纪