搜索：混合线性架构

「混合线性架构」共找到 2049 篇相关文章

碾压DeepSeek V3！开源AI Agent专属模型，1万亿参数、工具使用能力超强

国内大模型平台月之暗面开源了模型Kimi - K2，这是混合专家模型，总参数1万亿。它针对AI Agent优化，工具使用能力强。测试显示其性能碾压DeepSeek V3等模型，训练流程还有独特技术创新。

线性循环模型能处理极长序列，是相比Transformer的关键优势，但过去循环模型性能不足且难以泛化。CMU等研究者证明，通过简单训练干预，循环模型500步后训练可突破256k长度泛化极限。

Directus是开源开放数据平台，能将SQL数据库升级为有REST+GraphQL API的实时数据后端，提供无代码数据管理界面。它功能亮点多，技术架构优，适用于多种场景，与同类项目相比有独特优势。

大模型处理复杂问题常“翻车”，华为诺亚方舟实验室提出思维森林（FoT）框架，借鉴人类认知方式，打破线性推理范式。FoT在多个数学推理任务表现出色，准确率超先进模型，将在ICML 2025开源。

编程神器Cursor母公司Anysphere挖到合作伙伴Anthropic两名前核心高管，原Claude Code开发负责人和产品经理将分别任Cursor首席架构师和产品负责人。这或使两家合作关系微妙，AI编程领域竞争激烈。

享刻智能官宣完成数千万元Pre - A轮融资，创始人陈震是连续创业者。其LAVA厨房机器人获北京市首张具身智能机器人食品经营许可证，已签千台级订单，还将围绕‘三机一体’架构升级技术。

随着摩尔定律发展放缓，集成芯片与芯粒技术对高性能芯片设计制造愈发重要。孙凝晖院士在2025年度晶上系统生态大会指出，集成芯片是提升性能新路径，但芯粒集成度提升带来三大科学问题。

清华大学和面壁智能团队开源MiniCPM 4，有8B、0.5B两种参数规模，以22%训练开销达同级别最优。它在架构、推理、数据、训练多方面创新，性能领先，适用于综述生成、工具调用等场景。

随着大语言模型发展，扩展 Transformer 架构成趋势，但参数规模增长带来训练负担。微软等研究者提出 CoR 概念，构建模型链学习范式，应用于语言模型得 CoLM 系列，实验显示其性能相当且扩展性、灵活性更好。

瑞士网络安全公司发现，GitHub官方MCP服务器面临新型攻击，可诱导AI Agent将私有仓库敏感数据泄露至公共仓库。GitLab Duo近期也有类似漏洞。公司还提出初步缓解举措。