「自注意力层」共找到 1530 篇相关文章
无需训练!让VLM同时具备「视觉」与「推理」能力,数学题得分暴涨30%
当前视觉语言模型(VLM)像‘视力好但数学差的学生’,论文指出问题根源是数据不足和能力分布不均。提出‘模型合并’方案,实验显示在数学基准测试中表现亮眼,还通过实验揭示层间能力分布。
Swiggy 内部 AI 助手升级:Text-to-SQL 不够用了,Agent 开始接管数据分析
Swiggy 推出基于生成式 AI 的 Text-to-SQL 助手 Hermes V3,运行在 Slack 中。它解决了旧版本问题,通过向量提示检索等升级,将 SQL 生成准确率从 54% 提至 93%,还增加会话记忆、解释层,与现有体系深度整合。
作业帮基础观测能力之一监控体系实践
本文介绍作业帮监控体系实践。其监控体系随云原生成长,支持全集群监控。构建时选 Prometheus 采集、VictoriaMetrics 存储,还从多维度采集指标,用自研代理降成本、治理指标,让系统更贴合研发。
山姆•奥特曼:ChatGPT 用户有三层代沟
OpenAI的CEO山姆•奥特曼在红杉闭门演讲中透露,不同年龄层使用ChatGPT方式不同,老年人当谷歌替代品,二三十岁的人当生活顾问,大学生当操作系统,这反映了AI与人类交互模式的转变。
从 SQL 到 OSI:当“数据是什么意思”也有了标准答案
本文回顾 SQL 统一世界的历史,引出 OSI 标准。OSI 解决“数据是什么意思”的标准化问题,众多全球数据技术公司参与。还介绍各厂商语义层布局,分析对中国企业的影响及 OSI 未解决的问题。
AI 基础设施缺失的一层:聚合代理流量
在 AI 融入应用热潮中,代理流量爆发成 AI 基础设施缺失层。传统设施难管理,致成本、安全等问题。Gartner 关注此差距,‘AI 网关’成新兴类别,它补充现有设施,助组织重获代理流量监督。
刚刚,AI大牛Karpathy又提新概念:像细菌一样写代码?
AI大牛Andrej Karpathy继Vibe Coding后提出「细菌式编码」,受细菌代码启发,有小而精简、模块化、自包含特点,其核心是让代码利于共享。它适合快速原型开发,也有局限,建议兼顾两者。
北大DeepSeek论文或预定ACL Best Paper!梁文锋署名
北大DeepSeek联合发布的NSA论文已被ACL 2025录用且评分高,有望冲击最佳论文。该技术革新传统注意力机制,提升算力效率,是长文本处理的突破。此外,张铭教授团队还有多篇论文上榜。
AI落地的另一种可能性
Sam Altman用APP解决AI落地问题,如将ChatGPT打造成“超级APP”,但此模式有交互形态受限、生态割裂的缺点。作者认为这是权宜之计,并设想把AI作为“通用智能层”嵌入各行业软件,Anthropic有此可能。
谷歌Gemma 4全系开源:3.8亿激活超越20倍体量模型,手机秒变AI工作站
谷歌发布Gemma 4全系列开源模型,有4个尺寸。它在硬件适配、注意力机制等方面革新,能在手机等设备运行,在测试中成绩出色,还获多平台支持,谷歌发起挑战赛鼓励开发者。