「自注意力层」共找到 1538 篇相关文章
Dense、MoE之外第三条Scaling路径:交大提出JTok模块,省1/3算力
上海交通大学与小红书Hi Lab联合团队提出JTok/JTok - M模块,作为插件挂载在Transformer层,几乎不增算力和显存开销却显著提升性能。该模块构建新scaling路径,在多任务测试中全面提分,为大模型发展提供新方向。
飞书合作的第一款AI硬件来了,居然是个AI录音豆。
飞书与安克创新合作推出首款AI硬件——AI录音豆。该产品小巧便携,可夹在衣服或吸附金属上,有飞书生态,录音质量好,自带底噪抑制,录音后能自动同步云端,快速生成会议纪要,还支持实时翻译。
诺奖、金牌与SOTA:谷歌2025八大领域核心突破年终回顾
2025年是AI成为社会基础能源的关键转折点,谷歌通过全栈自研与生态标准双轮驱动构建智能基础设施帝国。从模型推理到科学发现领域均有突破,如Gemini 3系列、Ironwood芯片等,还在各领域有诸多应用与探索。
只需三步,就能认领一台AI手机!
最近全面开源的AutoGLM可让手机自己动起来,用户只需用自然语言描述任务,AI就能自动操作。不过此前安装部署较麻烦,现在智谱找到连安装都能“自己动”的方法,用Claude Code + GLM - 4.6,三步即可认领AI手机。
商汤分拆了一家AI医疗公司,半年融资10亿,剑指“医疗世界模型”
商汤分拆AI医疗公司,半年融资10亿。其以自研“大医®”为核心构建医疗世界模型,形成闭环。推出智慧医院方案,临床、决策、患者端等多方面落地成果丰富,还布局海外市场,未来想让AI从文本到模拟决策。
FlashAttention 完全进化史:FA-4 发布之际的技术全景回顾
文章围绕FlashAttention展开,从Attention性能瓶颈引出问题,阐述其各版本演进。FA-1实现算法突破,避免O(N²)内存;FA-2适配架构,提升性能;FA-3深度协同,实现异步;FA-4探索更深异步和角色分工。还探讨跨芯片迁移及未来优化方向。
英伟达老黄收购了一家AI编程公司
英伟达刚收购AI coding初创公司Solver,该公司成立三年,专注编程AI Agent。此前英伟达收购不少降芯片成本或提供AI支持的公司,此次收购契合其构建软件生态层战略,或使AI智能体逼近软件开发核心。
Python 2还能走多远?
自2020年Python 2停止维护,虽仍有项目在用,但企业和社区都在向Python 3迈进。文章介绍了Python 2的发展历程、存在的问题,阐述Python 3的优势,并给出了从Python 2切换到Python 3的方法。
杭州闯出40亿AI医疗IPO!阿里CEO多轮投资
杭州AI陪诊公司微脉准备赴港IPO,其创始人裘加林经验丰富。微脉依托自研CareAI平台,以与公立医院合作为核心开展全病程管理服务,业务增长可观,虽仍亏损但在收窄,此次募资用于AI能力提升和业务扩张。
突发!林俊旸被曝创业:新AI Lab估值20亿美元
自3月初离开阿里Qwen团队后,林俊旸动向曝光。外媒消息称他正为新创立的AI Lab筹集数亿美元资金,本轮融资后估值或达20亿美元,高榕创投与红杉资本已接洽投资,他还招募了相关成员。