搜索：全注意力模型

「全注意力模型」共找到 8738 篇相关文章

轻量级易开发，8B参数释放大实力！科学多模态模型Intern-S1-mini开源

上海人工智能实验室继7月26日开源后，推出轻量化版本Intern-S1-mini。它是8B参数“迷你模型”，兼具通用与专业科学能力，适合快速部署和二次开发，在多方面表现出色，还降低了对高端计算设备依赖。

前两天AI圈被Gemini 3 Pro刷屏，Meta却悄悄开源了两个“硬核”项目：SAM 3D Objects可从一张照片重建任意物体，SAM 3D Body能从一张照片重建人体网格模型，二者结合可构建完整3D场景，且全部开源、可商用。

WAIC 2026热度高涨，InfoQ直播间追问‘AI正在重写什么’。与会嘉宾讨论AI产业新阶段变化，如从‘看能力’到‘算总账’，认为模型重要性方式已变，还探讨了AI原生产品定义、AI Infra影响及未来关注方向。

2026年AI落地现悖论，模型能力强但多数项目难有ROI，原因是数据未准备好。腾讯云在AI产业应用大会宣布升级全栈数据平台，推出DataBuddy，可在多场景实现对话即交付，解决数据问题助力AI落地。

ICML2026 论文指出，大语言模型内部会自然形成类似人类心理学模型的「情绪树」，模型越大，情绪树越复杂，且在销售等任务上表现更好。同时，模型的情绪结构受身份设定影响，存在与人类相似的情绪识别偏见。

在大语言模型发展中，长文本建模挑战大。蚂蚁研究团队提出注意力机制GCA，可端到端学习检索相关片段，实现超长序列处理与泛化，其Triton kernel实现已开源，论文被ICML 2025接收。

过去两年视频生成模型不断提升画面参数，但传统模型生成的视频固定，用户无法干预。而世界模型可跟随操作实时渲染、动态生成世界。目前Noiz AI联合多机构发布实时可交互音视频世界模型HelixWorld 1.0，后续还将开源。

字节Seed与斯坦福等机构推出新模型，其新注意力机制MoC能让长视频生成计算量降低85%，质量不减且保持连贯性。团队将视频生成定义为上下文检索任务，提出MoC机制并阐述实现方法。

近日，智象未来的HiDream - O1 - World模型以平均分80.9登顶WBench核心Navi分榜，物理一致性维度也排第一。它走出第三条路线，解决时空与物理一致性难题，技术获国际顶会认可，正改变全球竞争格局。

Thinking Machines和John Schulman新研究刷新对LoRA的认知，实验显示正确使用时它能匹敌全量微调。团队系统研究训练集与参数关系，有层选择、学习率等关键发现，还给出实用建议，但LoRA在部分场景表现待验证。