搜索：AI推理成本 - AI Reading Hub

「AI推理成本」共找到 11687 篇相关文章

拒绝计算“一视同仁”！Elastic Attention：让大模型学会“看人下菜碟”

现代大语言模型用全注意力机制计算复杂度高，现有混合注意力策略是静态的。为此提出Elastic Attention，引入轻量级Attention Router，具备动态路由等亮点，在主流模型测试中效果好。

MIT CSAIL团队提出递归语言模型RLM，不改动模型架构，让GPT - 5、Qwen - 3等模型具备千万级token超长文本处理能力。它将上下文处理“外包”，实验显示其处理规模超前沿模型，复杂任务优势显著，多数场景性价比高。

Anthropic的Jack Lindsey论文《Emergent Introspective Awareness in Large Language Models》对大模型做神经科学受控实验。发现Claude Opus 4/4.1能感知内部念头，区分内外状态，通过检查内部状态一致性判断输出意图。

MIT研究把59个不同模型凑一起，发现强大模型对物质理解趋同，且性能越强思维越接近。研究还指出性能不佳模型的问题，认为可通过模型蒸馏让小模型模仿大模型，实现算力自由。

Claude Code等让开发者回归终端开发，但配置“反人类”。GitHub上的cc-switch工具基于Rust + Tauri开发，支持多款模型快速配置切换，有可视化面板及多种功能，还集成Skills库，大大提升使用体验。

12月30日智谱启动港股招股，1月8日将挂牌上市，拟发售3741.95万股H股，每股116.20港元，预计募资43亿港元。其基石投资者认购近七成，技术以GLM为核心，模型表现出色，但上市后面临诸多挑战。

本文回顾谷歌2025年发展，从Gemini 1.5 pro开始有变化，到Gemini 2.5 pro质变。谷歌在模型、产品、创意、科学等六大领域突破，如Gemini 3系列模型表现出色，但Sam Altman仍认为谷歌失败。

Google的Nano Banana Pro能力亮眼，但作为设计工具商用不足。Lovart像设计界的Cursor，提供专业化设计工作流，是可用的Design Agent。文中通过案例展示其编辑能力，还介绍了PPT生成等功能及圣诞活动。

Open Notebook是开源、本地化且重隐私的Google Notebook LM替代方案。它支持超16家供应商，能整理多模态内容、生成专业播客，在多方面比Google Notebook LM更具优势。

本文是对鹿明CTO丁琰的访谈。丁琰博士最早将UMI落地实践，其数采方案「FastUMI」受青睐。他认为UMI是完整体系，数据会反向影响多方面。还对比多种数采方式，介绍FastUMI改进及Pro版优势。