「多模态专家混合」共找到 1549 篇相关文章
如何利用pytorch memory snapshot进行显存分析
文章聚焦于用pytorch memory snapshot分析模型训推显存消耗,不讨论工具使用,侧重解读记录内容。以混合精度训练为例,介绍各步骤显存管理细节,还给出单层、双层模型及zero1训练的显存分析。
VLM剪枝新SOTA:无需重训练,注意力去偏置超越6大主流方案
常用的attention机制存在位置偏置和padding异常,影响剪枝效果。上海大学曾丹团队提出无需重新训练的attention去偏方法,在多模型、剪枝策略及基准上验证有效,为多模态模型部署提供新思路。
Meta&UIUC大发现:无需标注,Agent复杂的工具使用和搜索能力,是可以“无中生有”的
Meta和UIUC研究发现,无需标注,Agent复杂工具使用和搜索能力可“无中生有”。论文Dr. Zero让大模型自我博弈成搜索专家,用HRPO提效,设计难度导向奖励,实验表现佳,但也存在局限。
Pulsar特性在AI场景中的使用
随着AI发展,架构从单体到分布式演进,消息中间件成关键。Pulsar以存算分离等特性价值凸显,在多模态训练、模型训练、智能体等AI场景有独特优势,如处理超大消息、实现断点续训等。
Google 推出了免费 Vibe Coding 工具,一键集成聊天、视频、图像AI,真的很氛围。
谷歌推出免费 Vibe Coding 工具,集成多种 AI 功能。谷歌 AI Studio 的 Built 模式更新,能混合匹配 AI 功能,自动连接模型和 API。用户无需了解 API 文档,可快速做出 MVP,谷歌 AI API 免费(限速)。
150+项目定点!这家国产MLCC,正被车企“疯抢”
近日,微容科技首席技术专家谭斌在论坛分享演讲。该司主营MLCC,虽入行晚但有后发优势。汽车电子化使MLCC需求增,其对MLCC要求严苛,微容多方面突破技术,已合作定点项目150+。
直击CVPR现场:中国玩家展商面前人从众,腾讯40+篇接收论文亮眼
CVPR 2025落下帷幕,中国企业参与规模创纪录,腾讯40+篇接收论文亮眼。多模态、3D生成是热门方向,高斯泼溅技术成亮点。企业探讨主题拓展至产业应用,腾讯投入大,借顶会展示实力、吸引人才。
作为一个AI博主,我劝你先别急着用AI。
作者结合宝玉老师观点,认为想深耕某领域成专家,应在独立练习1000小时后再用AI。还分享自身创作中用AI辅助情况,强调品味重要性,称1000小时练习是建立品味体系的锚定。
NeurIPS 2025 Spotlight | 条件表征学习:一步对齐表征与准则
文章指出传统表征学习处理图片和商品信息时存在局限,针对性有监督训练成本高,多模态大模型使用成本也需考虑。为此提出即插即用的条件表征学习方法 CRL,实验显示其在下游任务表现优异。
AI正在偷走白领工作!OpenAI狂砸10亿教AI上班,你的完美继任者即将上岗
Anthropic、OpenAI等大厂计划每年投10亿美元,为AI提供强化学习环境、让其「偷师」专家,教会AI像人类一样工作。OpenAI高管预言未来经济或成「RL机器」,引发岗位替代担忧。