「稀疏注意力模型」共找到 7755 篇相关文章
英伟达放话：小模型才是Agent的未来！
英伟达论文指出，当前用大模型构建AI Agent是资源浪费，提出小模型才是Agentic AI未来，给出三点理由，还提供从大模型迁移到小模型的六步流程，并分析三个开源项目，呼吁行业追求效能。
刚刚，Kimi开源新架构，开始押注线性注意力
智能体时代推理计算需求成瓶颈，线性注意力可降复杂度但表达有限。月之暗面开源 Kimi Linear 新架构，结合线性与全注意力，性能和硬件效率出色，引发对线性与全注意力发展方向的思考。
一文彻底搞懂 MCP：AI 大模型的标准化工具箱
MCP（模型上下文协议）是 Anthropic 于 2024 年 11 月开源的新技术，是 AI 大模型的标准化工具箱。它能让大模型与外界互动、获取信息、完成任务，整合 Function Call 标准，几乎所有大模型都可接入。
Mistral 3发布，14B多模态小模型表现优异
Mistral AI第三代模型发布，含三个小型密集模型和稀疏混合专家模型Mistral Large 3，全用Apache 2.0许可。有多项技术亮点，Ollama等支持部署微调，还给出实用配置建议。
全球开源大模型，前十五名全是中国的
近日，随着新一代大语言模型更新，开源大模型成热门话题。Design Arena排行榜上，若设定为“开源”，前15名均为国产开源大模型，排名第一的是DeepSeek - R1 - 0528 ，智谱、阿里等厂商多款模型上榜。
硬核「吵」了30分钟：这场大模型圆桌，把AI行业的分歧说透了
在WAIC 2025大模型论坛的“模型之问”圆桌中，多位行业大佬围绕大模型展开辩论，话题涉及训练范式、模型架构、数据、开闭源等核心问题，不同观点碰撞，深入探讨大模型技术演进与发展之路。
一周10来个模型被开源，阿里Qwen杀疯了~
阿里通义千问这周开源众多模型，如Qwen3 - Omni、Qwen - Image - Edit等，涉及全模态、图像编辑、安全审核等多领域。各模型能力出色，如Qwen3 - Omni能处理多模态输入，Qwen3 - VL表现超部分闭源模型。
编码器-解码器架构的复兴？谷歌一口气发布32个T5Gemma模型
谷歌在xAI吸引眼球时更新Gemma系列模型，发布多模态模型MedGemma，还一口气推出32个T5Gemma模型。该模型基于适应技术，性能表现佳，引发编码器 - 解码器架构复兴讨论。
火速吃瓜，OpenAI模型还没发又惹出争议了？？
GPT - 6发布前夕消息不断，OpenAI新模型引入的“循环深度”技术因可能让模型思考难监控引争议，同时模型名或被API剧透，图像模型GPT Images 2.1也将更新。
用MoE打造DNA基础模型更强范式！人大实现seq2func全新突破
中国人民大学团队提出SPACE模型，通过引入物种感知编码器和谱系分组增强解码器，革新架构，提升了DNA基础模型性能与泛化能力，在多项测试中表现优于主流模型。