「混合专家层」共找到 977 篇相关文章
Agent 时代启示录: 当 Agent 作为新物种加入经济系统
文章指出 Agent 时代正颠覆传统互联网分析框架,如 To B/To C 边界模糊、付费逻辑转变等。软件形态也在重写,Agent 成新物种加入经济系统,还探讨了 Agent Harness 商业机会,如 Runtime、Context、Orchestration 层。
拒绝计算“一视同仁”!Elastic Attention:让大模型学会“看人下菜碟”
现代大语言模型用全注意力机制计算复杂度高,现有混合注意力策略是静态的。为此提出Elastic Attention,引入轻量级Attention Router,具备动态路由等亮点,在主流模型测试中效果好。
Mistral 3发布,14B多模态小模型表现优异
Mistral AI第三代模型发布,含三个小型密集模型和稀疏混合专家模型Mistral Large 3,全用Apache 2.0许可。有多项技术亮点,Ollama等支持部署微调,还给出实用配置建议。
东方理工团队提出HiDrop:重构MLLM计算路径,压缩90%视觉Token实现2.2倍加速
东方理工大学沈晓宇团队提出HiDrop,基于MLLM不同层功能差异,设计出延迟注入、凹金字塔式剪枝和提前退出的视觉Token压缩策略。实验显示,它能压缩约90%视觉Token,保持98.3%性能,实现训练和预填充加速。
GPT-5.2 上线!全面超越 Claude Opus4.5 及 Gemimi 3.0 Pro
OpenAI 正式宣布 GPT-5.2 全面上线,一口气推出三个版本。GPT-5.2 Thinking 在推理能力上拉开代差,是 OpenAI 首个达人类专家水平的模型。各版本定位清晰,不同用户使用时间有别。
港大开源视频版RAG,像聊天一样看完百小时纪录片。
港大HKUDS团队开源超长视频理解框架VideoRAG,突破传统模型时长限制,支持对数百小时视频精准检索和问答。还有桌面应用Vimo,使用简单高效。介绍了其切片索引、混合检索、生成回答的实现逻辑。
Science:AI预测教皇选举翻车!新教皇缘何成「意外之选」?
梵蒂冈宣布美国红衣主教Robert Prevost当选新教皇,而AI预测的是意大利红衣主教Pietro Parolin,Prevost不在预测名单。研究人员用算法分析选举人,还请ChatGPT整理资料,专家指出模型有局限但方法或可用于其他选举。
AI 真的太贵了
国内AI套餐价格高、额度低,用户体验不佳。多数国产模型开源,不存在资源问题,但厂商毛利率高达90%。高价阻碍应用层发展,AI应降低价格,让更多人用起来,提升社会生产力。
智能体时代,我们到底需要什么样的AI人才?|2026 培训年会X极客时间专场
2026年5月14日14:00 - 17:10,极客时间企业版联合协鑫科技、广新集团在京举办DTDS大会,探讨智能体时代AI人才培养。传统人才培养逻辑被颠覆,多位专家将分享实践经验,还有展位活动。
奥特曼深夜「放鸽子」!不发GPT-5,竟是给7亿用户「防沉迷」?
万众期待的GPT - 5未发布,OpenAI在ChatGPT周活破7亿时公布「防沉迷」新理念。这体现其「助你成事」目标,还对ChatGPT进行多项调整,且与全球专家合作提升其响应能力。