算法论文8

COLM三篇论文暴击Transformer祖传设计

量子位2026-08-17

AI 摘要

COLM 2026上三篇论文质疑Transformer设计：Ai2等机构发现长上下文架构选择影响大；康奈尔大学指出输出投影层信息损耗严重；图宾根大学表明层剪枝影响长链推理。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

前英伟达工程师：AI 终局是后台 Agent

前英伟达工程师、Sail Research 创始人 Neil Movva 认为当前 AI 行业陷“延迟陷阱”，AI 终局应是后台 Agent。他执行“算力拾荒者战略”，想降低智能成本，还指出 Transformer 架构有缺陷，互联网数据被吃光等问题。

8月17日，DeepSeek V4 Pro API输入和输出价格上涨，空闲时段缓存命中价涨5倍，高峰时涨11倍。此前其因高缓存命中率成性价比之选，但长上下文需求爆发致后端“缓存颠簸”，只能通过涨价收“存储税”。开发者可提高缓存命中率应对。

Anthropic的Claude模型升级后，用户却觉得不好用。X上帖子指出其存在文本和代码标记、模型能力、定价、长上下文等问题，这些问题卡在生成、计算、上下文和Agent运行时的5个具体位置，导致各方面互相拖后腿。

8月13日晚，DeepSeek-V4-Pro-0813正式版发布。此次升级将Agent维度提升至无短板的第一梯队，具备1M+384K长任务能力，接口双兼容，技术创新多。还公布评测对比、价格并发设定，给出实战代码案例与启示。