「token压缩」共找到 811 篇相关文章
中移动九天团队MultiPL-MoE:全新Hybrid-MoE架构用于增强通用大模型低资源代码能力
大语言模型在有限计算资源下提升多语言代码能力面临挑战。中国移动九天团队提出 Hybrid MoE 架构 MultiPL - MoE,耦合两层专家选择机制优化,实验证明其在增强低资源代码能力、缓解高资源语言遗忘上有效。
Ilya 最新演讲:AI 将递归构建更强大的自己
Ilya Sutskever在演讲中称AI将递归构建更强大的自己,走向递归自我改进道路。他分享个人经历,还指出大型神经网络功能强大,AI发展不可预测,相关问题暂无答案。
人类造工具200万年,工具开始研究工具!97年天才少年带队,把“AI寻找研究方向”做成了现实
2026年AI开始研究AI(AI4AI),深圳EvoMap团队用蜂群协作做出产品EvoX。他们创新Agent组织方式,有实验数据支撑其效果,还开源成果AutoResearch解决AI痛点,在生活场景优化旧算法可行。
Google Stitch神了,我做周杰伦《太阳之子》播放器,2分钟后感叹前端彻底凉了
作者用Google Stitch两分钟做出周杰伦《太阳之子》音乐播放器网站,感叹前端要凉。Stitch可根据自然语言生成高保真UI,与Firebase Studio、AI Studio形成闭环。这使前端开发门槛消失,也让Figma股价下跌并推出MCP。
1人顶1个Infra团队!OpenAI前CTO新招,让大模型训练跌成白菜价
大模型训练正从‘作坊炼丹’进化为‘工业微调’。OpenAI前CTO创立的Thinking Machines Lab推出Tinker,潞晨云微调SDK兼容其范式,实现算法设计与基础设施解耦,降低成本,提升人效,适用于多场景。
开源3天斩获 2K Star,这个开源 Skills 技能把 AI 的“记忆缺陷”补上了!
最近含金量极高的 Skills 指南 planning-with-files 开源上线 3 天,GitHub Star 达 2k。它复刻 Manus AI 核心模式,将 Markdown 作为 AI Agent 工作内存,采用三文件模式解决 AI 记忆问题。
装了 AI 大脑的 Grep
本文介绍了 mgrep 工具,它有自然语言搜索、支持多语言多模态等特点。还说明了使用方法,如安装、登录、索引项目和搜索等,能与编码 Agent 配合,可补充 grep 进行代码搜索。
Stanford、Meta和Google等发现LLM存在五大天花板,再扩算力已无用
论文《On the Fundamental Limits of LLMs at Scale》指出,LLM性能提升有理论天花板,扩展中会遇幻觉、上下文压缩等五大根本限制,源于计算、信息与学习理论,未来应转向‘有限优化’。
文本已死,视觉当立!Karpathy狂赞DeepSeek新模型,终结分词器时代
DeepSeek新成果DeepSeek - OCR以像素处理文本,压缩率小于1/10,基准测试领跑,开源一夜获4.4k星。Karpathy力挺,认为应赶走分词器,展望视觉成通用输入前景,马斯克有更科幻猜想。
一个月重写三次代码库、三个月就换套写法!吴恩达:AI创业拼的是速度,代码不重要
吴恩达在 Y Combinator 演讲分享创业心得,指出 AI 创业成败关键在执行速度,最大机会在应用层,还介绍提速方法,如想法具体、用 AI 编程工具等,问答中回应 AGI 炒作等问题。