「低熵token」共找到 1591 篇相关文章
冗长响应缩减80%，DeepSeek GRPO获得颠覆性改进，微软GFPO问世
微软研究员曝出颠覆性强化学习算法 GFPO，能削减推理多余 token 长度达 80%。它基于 DeepSeek 的 GRPO，可同时优化多响应属性，团队还提出自适应难度变体，实验显示 GFPO 在多方面表现出色。
3000块钱，这支中国团队把ChatGPT成功的“秘密”用在了机器人训练上
国内穹明智能团队推出千元级手持采集系统 UMI ver.2 并开源。该系统精度达毫米级、能双臂协同，成本低、部署快。团队认为数据是关键，还计划搭建机器人数据 infra，预计新模型范式很快出现。
ICML 2025 Spotlight｜华为诺亚提出端侧大模型新架构MoLE，内存搬运代价降低1000倍
华为诺亚和北大研究人员提出端侧大模型新架构MoLE。它解决传统MoE显存开销大、传输延迟高问题，推理时将专家输入改embedding token，用查找表替代矩阵运算，实验显示性能与MoE相当，大幅降推理延迟。
GPT-5.2已上线24小时：差评如潮！
OpenAI 十周年推出号称强大的 GPT - 5.2，却差评如潮。它在 SimpleBench 测试结果不佳，回答不稳定，编程和艺术创作效果差，情商低、不通人性，审查和安全拒绝机制也饱受诟病。
比Gemini 3记得更多，谷歌新框架将上下文记忆干到了200万！
Google在NeurlPS2025大会推出结合RNN与Transformer的全新架构Titans，能扩展到超200万个token上下文。背后涉及Titans和MIRAS两篇论文，共同推进测试时记忆概念，实验显示新架构性能出色。
跨层压缩隐藏状态同时加速TTFT和压缩KV cache!
论文 UNCOMP 被 EMNLP 2025 主会接收，提出高效推理框架，用截断矩阵熵解释 LLM 稀疏化，据此设计 UNCOMP 框架，通过压缩隐藏状态优化 KV Cache，实现计算与内存联合优化，实验效果显著。
香蕉和GPT Image之外的第3条路：华人15人团队造出AI生图黑马
一支不到15人的华人团队推出AI生图模型Uni-1.1，在Arena.ai榜单冲进全球前三。它将推理和生成融入同一模型，创意可控，价格低，已获阿迪等企业认可，未来将拓展到多模态系统。
GPU时代落幕？硅谷巨头集体「叛逃」，英伟达1500亿疯狂自救
去GPU化浪潮来袭，AI竞争焦点从算力规模转向能效比与延迟。谷歌TPU性能提升且成本低，走向商用受青睐。英伟达天价收购Groq，多元架构正终结GPU单极时代，国产芯片需底层创新。
SOTA级视频编辑新方法：无需训练一句话编辑视频，背景保持100%
传统视频编辑工作流被AI重塑，但现有AI方法存在问题，多源于反演 - 编辑范式。西湖大学AGILab提出无需反演和训练的FlowDirector，开销低、支持广且能100%保持背景，还采用新策略优化。
Mistral 3开源，一举超越DeepSeek与K2？
近期，Mistral AI开源Mistral 3，含三款小型稠密模型及Mistral Large 3。Benchmark对比中，它领先国内DeepSeek - 3.1、Kimi - K2。Mistral Large 3是强开源权重模型，Ministral 3适合边缘端，成本性能比低。