「128K上下文」共找到 1276 篇相关文章
硬核拆解大模型,从 DeepSeek-V3 到 Kimi K2 ,一文看懂 LLM 主流架构
本文详细列举 8 个主流大语言模型,硬核拆解架构设计与革新思路,介绍架构演进趋势。如 DeepSeek-V3 的 MLA 与 MoE 技术,OLMo 2 的归一化策略,Gemma 3 的滑动窗口注意力机制等。
狂涨 7.4K star!!一款堪称开源监控新标杆的项目,谷歌、字节都点赞,牛皮!
介绍开源监控工具 Checkmate,它由 BlueWave Labs 开发,主打“自托管 + 全功能 + 易上手”,功能强大、性能卓越、灵活易用,已获 7.4K star,受大厂工程师青睐。还介绍了其功能特色、安装方法。
Kimi新出的Agent集群,到底有多恐怖?
Kimi发布K2.5模型及Agent集群功能,将国产AI推向“组织智能”新高度。K2.5全能且开源,多项评测优于GPT - 5.2 - xhigh且成本低。Agent集群可按需协调子Agent,实现“角色涌现”与“3D编排”。
2.4K Star!小米最新开源!覆盖600+语种的语音克隆TTS,40倍实时合成速度!
小米k2 - fsa团队开源OmniVoice,这是支持600 + 语种的零样本语音克隆TTS模型,性能超ElevenLabs v2和MiniMax等标杆,RTF低至0.025,合成速度快40倍,还支持声音设计等功能。
4 天 20K+ Star!VoltAgent 最新开源力作,让 AI 直接掌握各大网站的设计风格!
VoltAgent团队推出新开源项目awesome-design-md,上线4天20K+ Star。它准备50+现成的`DESIGN.md`,从真实网站提取设计系统,让AI按其生成UI,解决开发者用AI写UI的痛点。
JFM | 浙江大学郑畅东、谢芳芳等:基于Transformer网络的上下文学习跨翼型的主动流动控制策略
浙江大学郑畅东、谢芳芳等提出基于Transformer网络的上下文学习跨翼型主动流动控制策略。该框架引入策略改进算子,结合强化学习与气动形状优化,在翼型流动分离问题中表现出色,提升了整体性能。
1.3K Star!别人两周后才发现的 AI 新词,这个项目当天就能抓!
本文介绍了获1.3K Star的开源项目new-term-radar,解决AI领域新词信息差痛点,传统关键词工具两三周才收录热词,该项目靠多维度信号当天即可捕捉新兴AI热词,还可辅助挖掘流量机会、找用户痛点,适合AI站点、SEO从业者使用。
给 OpenClaw 装上“全网眼睛”:我把这个 3K+ Star 项目果断集成到了个人skills里。
作者用OpenClaw /Claude Code读推特遇难题,各平台上网关卡多。后发现开源2天获1.1K Star的Agent - Reach项目,将上网工具统一打包,技术选型实用,强调AI时代想法和判断力比技术重要。
卷疯了!这个清华系Agent框架开源后迅速斩获1.9k stars,还要“消灭”Prompt?
随着大模型能力突破,Agent 从概念走向应用,各类框架不断涌现。清华系团队发布开源框架 Cooragent,获 1.9k stars。创始人王政分享 Agent 发展洞察,指出大模型能力提升推动 Agent 商业化,还探讨 MCP、框架等多方面问题。
欲取代transformer的SSA(次平方稀疏注意力)解读
文章解读了欲取代Transformer的SSA(次平方稀疏注意力)算法。它支持12M tokens上下文,比fastAttention快52倍,训练和推理更快。SSA改变了注意力扩展特性,有计算和内存线性扩展等特性,经三阶段训练可可靠利用长上下文。