「长上下文能力」共找到 4096 篇相关文章
大语言模型(LLM)到底是怎么运作的?(配图通俗讲解)
文章先介绍条件概率,指出大语言模型预测下一个单词是条件概率问题,会计算所有可能单词的条件概率选最高的。还提到直接选最高概率会使内容单调,引出温度概念,它能调整概率分布影响抽样结果。
MiniCPM 4.0来了!220倍极速狂飙,端侧模型的比赛,结束了
面壁智能联合清华发布MiniCPM 4.0,极限场景220倍加速。它是首个原生稀疏模型,有三级火箭推理加速体系,性能强,适配全平台,应用广泛,或成端侧AI分水岭。
逆向工程:ChatGPT 的记忆是如何工作的
文章是工程师eric对ChatGPT记忆系统的深度逆向工程和技术实现推测,详细拆解‘可保存记忆’和‘聊天历史’,分析工作原理、实现方案,探讨其对提升用户体验的作用,认为‘用户洞察’是关键。
WorkBuddy上线远程控制,国内也有了最丝滑的Agent工作方式。
WorkBuddy更新远程控制功能,因国内直连,体验比Codex还好。其打通PC、App和小程序,实时同步电脑内容。还新增资料库等实用功能,让国内用户有更丝滑的Agent工作方式。
卖Token也不是稳赚不赔!硅基流动招股书来了
硅基流动向港交所提交上市申请,剑指港股「AI Token工厂第一股」。它将异构算力等封装成Token供应服务,2025年营收增653.2%,但亏损也扩大,公有云业务成本压力明显,生意待市场检验。
用 LLM Wiki 给自己搭一个会越用越值钱的第二大脑
这是基于Andrej Karpathy的LLM Wiki模式构建的开源项目,能方便实现第二大脑。上传资源后Claude会主动提取实体、建立概念网络,知识会‘自己生长’,用得越久边际价值越高。还介绍了安装及使用方法。
压缩之外,Visual Tokenizer 也要理解世界?
MiniMax和华中科技大学发布视觉tokenizer新研究VTP,引发业界热议。该研究揭示传统仅以重建为目标的视觉tokenizer缺乏高层语义表示,提出在预训练中引入语义理解,还发现Scaling Law现象,虽有争议但为研究提供新视角。
为什么软件工程治理很重要:降低风险但不拖累速度
Sarah Wells 在哥本哈根 Goto 会议称,软件工程治理助团队决策、支持价值交付。糟糕治理会拖慢进度、增加成本。技术策略和组织技术雷达可辅助决策,还能从 DORA 能力学治理。
2025年如何学AI?如何用好AI?
文章围绕2025年学AI、用AI展开,作者黄益贺分享问答,涵盖学习指引、工具使用、产品赛道选择等多方面内容,如建议新手边用边学,对比不同工具功能,还分析了各模型和工具的特点与适用场景。
盘一盘,2017年Transformer之后,LLM领域的重要论文
本文梳理2017年Transformer后LLM领域重要论文。如提出Transformer架构的论文成现代AI基石;介绍GPT - 3的论文确立‘大模型 + 大数据’缩放定律,引领LLM军备竞赛等。还列举各论文内容与影响。