「线性扩展效率」共找到 1686 篇相关文章
AI正在淘汰“中间层”！昆仑万维方汉：要么冲进前10%，要么学会“向下兼容”
InfoQ专访昆仑万维方汉，他认为AI将推动“智能化”，是全面提升行业效率的“催化剂”，会淘汰“中间层”从业者。企业应快速试错，出海要选好市场、做好本地化。此外还探讨了开源、AI应用等话题。
当 Token 成为商品，AI 基础设施会怎么变化？
在大模型时代，智能生产和交付未实现工业化，存在性能鸿沟。九章云极提出AI工厂战略，发布Alaya NeW Cloud 3.0，将从资源计量转向智能计量，打造训练和Token工厂，提升算力到有效Token的转化效率。
清华新框架让大模型学会「精读略读」！实现12倍端到端加速，基准评分翻倍
清华等团队提出全新框架RAM，受人类阅读认知启发，将“精读+略读”混合策略引入上下文压缩，突破现有方法效率瓶颈，在多任务上表现出色，实现12倍端到端加速，为长上下文LLM部署提供新范式。
从显式CoT到隐式CoT：复旦让AI告别啰嗦，实现大模型高效沉默推理
复旦大学等机构团队论文提出SIM - CoT技术，解决隐式思维链推理准确率低、不稳定问题。该技术引入步骤级监督，提升性能、效率和可解释性，在多模型和任务测试中表现出色，让大模型高效沉默推理。
60秒极限挑战！中国GPU独角兽杀出重围，斩获图形顶会大奖
2025年12月，SIGGRAPH Asia 2025在香港开幕，摩尔线程在3DGS重建挑战赛中凭自研技术LiteGS斩获银奖。该团队还开源3DGS基础库LiteGS，实现全链路协同优化，提升训练效率与重建质量。
谷歌新架构突破Transformer超长上下文瓶颈！Hinton灵魂拷问：后悔Open吗？
谷歌在NeurIPS 2025发布两项大模型新架构研究，通过‘测试时训练’机制，推理阶段可将上下文窗口扩展至200万token。新成果Titans和MIRAS结合RNN速度与Transformer性能，突破超长上下文瓶颈。
突破长视频生成瓶颈：南大、TeleAI推出全新AI生成范式MMPL，让创意一镜到底
当前AI长视频生成面临质量骤降、细节崩坏、生成低效等问题。南京大学联合TeleAI推出MMPL新范式，首创“宏观规划、微观执行”双层生成架构，实现分钟级高质量长视频稳定生成，效率显著提升。
谷歌之后，英伟达入局扩散大语言模型，Fast-dLLM推理速度狂飙27.6倍
大语言模型领域，推理效率制约实际应用。谷歌Gemini diffusion曾展扩散模型并行潜力，但开源扩散LLM推理慢。近日，NVIDIA等推出Fast - dLLM，无需训练即插即用，推理速度狂飙27.6倍，兼顾速度与精度。
大模型可否胸有成竹？探索LLM推理与自信心的关系 | 直播预约
本次全英文直播将探讨大语言模型推理能力扩展瓶颈，介绍以置信度为核心的推理视角，展示“自确定性”指标及应用，还会讨论方法有效性和“基于置信度的推理”意义。
1w颗星！多平台 LL M 聊天机器人及开发框架AstrBot！
AstrBot是聊天机器人及开发框架，松耦合、异步，支持多消息平台部署。它功能丰富，支持多种大语言模型，有Agent能力、插件扩展等，还介绍了多种部署方式、平台及提供商支持情况。