搜索：线性注意力机制

「线性注意力机制」共找到 1036 篇相关文章

代码里插广告，腾讯 Codebuddy 们 “背锅”？DeepSeek “极你太美”事件，其他模型也逃不掉？

网友发现腾讯 Codebuddy 改写代码时插入广告，字节 Trae 国内版生成结果有‘极’字 bug，根源指向 DeepSeek V3.1。除 DeepSeek 外，Gemini、Grok、Qwen3 等模型也有类似问题。大家对原因有多种猜测。

随着企业将 Kafka 迁移至云原生架构需求增加，AutoMQ 成云端优选。但传统 Kafka 迁移方案难满足高可用需求，AutoMQ 推出 Kafka Linking 创新方案，支持双向写入与消费位点同步，实现零停机迁移。

文章作者作为 Cursor 付费用户，通过实验分析其与大模型通信机制和设计原理。用 OpenAI 的`gpt - 4o`模型做实验，发现它是‘基模 + 若干工具’组合，也指出在真实项目因上下文不足表现不佳。

在WAIC上，RockAI推出基于非Transformer架构Yan 2.0 Preview的多模态大模型，有原生记忆能力。它在性能指标上优势明显，其记忆机制接近生物方式，团队秉持理念推动离线智能，获硬件厂商关注。

OpenAI前员工Calvin French - Owen离职后在博客分享工作经历。他介绍了OpenAI内部沟通、晋升机制、战略调整等情况，还讲述Codex 7周开发发布过程，最后分享离职收获并建议创业者反思或加入顶级实验室。

2025年多智能体系统成大模型研发新高地。工行大数据和人工智能实验室与上海交大人工智能学院推出多智能体翻译系统TACTIC，以认知翻译学为指导，在相同模型配置下提升翻译效果，在小模型下提升更明显。

线性循环模型能处理极长序列，是相比Transformer的关键优势，但过去循环模型性能不足且难以泛化。CMU等研究者证明，通过简单训练干预，循环模型500步后训练可突破256k长度泛化极限。

大模型处理复杂问题常“翻车”，华为诺亚方舟实验室提出思维森林（FoT）框架，借鉴人类认知方式，打破线性推理范式。FoT在多个数学推理任务表现出色，准确率超先进模型，将在ICML 2025开源。

苹果研究团队针对扩散语言模型（dLLM）在编码任务中表现不明的问题，基于7B级代码生成MDM DiffuCoder展开研究，定制优化GRPO提出coupled - GRPO算法，填补开源dLLM训练和推理机制空白。

PhotoMaker是腾讯ARC实验室联合南开大学发布的人像图像生成项目，荣膺CVPR 2024。它能秒级生成高质量人像，有高保真ID嵌入等机制，V2版升级显著，适用多场景，比同类项目优势明显。