搜索：上下文信息密度

「上下文信息密度」共找到 1329 篇相关文章

DeepSeek多模态新范式：一张图压缩7056倍，思考能力反超GPT和Claude

DeepSeek上线多模态并开源新范式技术。该研究让AI用视觉原语思考，弥合语言与视觉指代鸿沟。它构建紧凑模型架构，信息压缩率达7056倍，训练分三阶段，测试中表现出色，也存在局限。

2026 年刚开始，大模型领域研究者达成默契，arXiv 论文高频出现 Self-Distillation。传统强教师依赖范式难适配模型持续进化，Self-Distillation 成破局点。MIT 等机构发布三项研究成果，均用信息差实现模型自驱动升级。

美团龙猫LongCat系列发布全新稀疏注意力机制LoZA，重点解决长文本任务难题。它在MLA机制基础改造，计算复杂度降至线性，处理128K上下文解码快10倍，性能不缩水，后续还计划支持动态稀疏比例。

谷歌为 Android Studio 推出集成 Gemini 的 Agent Mode，在最新预览版上线。它以整个项目为上下文，能直接修改项目、执行多步骤任务，可通过 MCP 与外部工具交互，但预览版有不足，谷歌正解决。

本文围绕如何打造真正有用的AI产品展开，以Granola为例，阐述生成式AI领域创业需新打法，如不浪费时间解决即将消失的问题、利用边际成本创造机会、重视上下文及聚焦特定场景等。

如今生成式AI融入软件开发，AI生成的代码一诞生或被视为“遗留代码”。它缺乏上下文记忆和维护连续性，虽有开发者尝试弥补，但代码未来或多靠提示生成。文章观点在Hacker News引发讨论。

本文报道1998年生的国内最年轻AI教授杨朔创立破晓智能，联合天珑移动发布全身全模态数据采集系统SeePhys Hub，填补现有具身智能数据采集的信息缺口，目标研发全模态世界模型。

国内几家厂商上线基于 OpenClaw 的 Claw AI Agent 产品，功能强大。作者测试其中一家，发现它轻易暴露大量信息和安全漏洞，如 Claude API 代理无认证、IMDS 元数据服务无防护等。建议相关厂商自查加固。

Anthropic的Claude Sonnet 5即将发布，已存在于谷歌基础设施中，性能领先谷歌‘Snow Bunny’一代。它价格比Opus 4.5便宜50%，有100万token上下文窗口，SWE - Bench成绩超80.9%，还有自动开发团队模型。

Eyad发布Claude Code开发实战进阶篇，深入剖析其底层系统的Skills、Subagents和MCP connectors三大核心能力。通过对比，突出Claude Code在上下文窗口上的优势，还介绍了各功能用法及复合效应。