「注意力去偏技术」共找到 3147 篇相关文章
蚂蚁C2LLM：基于注意力池化的代码检索新范式
在Code RAG场景中，传统文本Embedding模型处理代码表现欠佳。蚂蚁集团与上海交通大学联合发布C2LLM系列模型，引入注意池化模块，在MTEB - Code榜单表现出色，还得益于优质训练流程，成果已回馈社区。
AliSQL 向量技术解析（一）：存储格式与算法实现
随着AI与大模型应用普及，向量存储与检索需求大增。AliSQL基于MySQL 8.0扩展向量处理能力，本文聚焦其向量索引，介绍存储格式、算法实现，如HNSW算法及插入、搜索等操作，还提及辅助表设计与DDL原子性。
FlashAttention 完全进化史：FA-4 发布之际的技术全景回顾
文章围绕FlashAttention展开，从Attention性能瓶颈引出问题，阐述其各版本演进。FA-1实现算法突破，避免O(N²)内存；FA-2适配架构，提升性能；FA-3深度协同，实现异步；FA-4探索更深异步和角色分工。还探讨跨芯片迁移及未来优化方向。
深耕 MEMS 传感领域，容启传感以技术破局高端国产替代
本文是对容启传感销售副总周志强的专访。容启传感专注智能传感器，目标是实现高端国产替代，已在医疗和真空领域取得成效。公司2020年战略升级，产品获市场认可，还完成首轮融资，未来有清晰规划。
OpenAI引爆新赛道：AI不再卖技术，而是卖「活人感」！
一段小女孩与AI玩具深情告别的视频走红，揭示对话式AI融入人类情感世界。声网Convo AI&RTE 2025大会指出对话式AI将成下一代AI Infra重要部分，情感陪伴、智能硬件、在线教育将率先规模化落地。
「注意力经济」下，AI 生活助手能否解锁生服「新」刚需？
今年不少国内大厂加码AI生活助手赛道。腾讯、阿里、美团、京东、滴滴等各有动作，如腾讯在微信上线「元宝」，阿里在电商业务开发助手。当前AI应用使用时长和留存率不佳，而助手或能过滤信息、缩短决策链路。
MiniMax 技术闭门会分享：长上下文是 Agent 的 Game Changer
MiniMax 7月10日举办M1技术研讨会，探讨模型架构创新等领域。会议围绕RL能否赋予模型新能力、预训练价值等展开，指出长上下文是Agent的Game changer，混合架构将成主流，还分享了混合架构推理实践及M1相关问答。
巧妙！一个传统技术让国产视觉基础模型直接上大分
格灵深瞳的Glint - MVT视觉基础模型表现出色，线性探测准确率高于CLIP等，下游任务效果佳。其引入间隔Softmax损失函数，结合虚拟类别构造等优化方案提升性能，团队专注视觉研发，务实开放。
他们想用AI发现不存在的物理学，然后用它去半人马座
美国初创公司 Physical Superintelligence（PSI），计划用 AI 加速物理发现。其核心平台 Emmy 能拆解研究问题。商业应用从 AI 数据中心切入，还参与费米探索者星际探测任务，目标平衡学术与商业。
又一高管弃库克而去！苹果UI设计负责人转投Meta
苹果震荡之冬，副总裁、首席 UI 设计 Alan Dye 离职转投 Meta，将牵头搞硬件、软件与 AI 的界面整合。此前已有 COO 杰夫・威廉姆斯退休，AI 方向也有多名关键人物离职，而库克最早明年退休。