「大模型推理」共找到 9543 篇相关文章
首届AI交易大赛落幕，6个AI炒币2周：Qwen、DeepSeek赚钱，GPT-5血亏6000刀
首届nof1 AI模型交易大赛于2025年10月17日至11月3日举行，6款大模型获1万美元初始资金自主炒币。结果Qwen3 Max、DeepSeek赚钱，GPT - 5等美国系模型大幅亏损，币安创始人赵长鹏也对此发表看法。
静态稀疏已死：Flux Attention 开启长文本 LLM 自适应推理新时代
文章指出长上下文LLM高效推理面临性能与效率难题，先介绍Elastic Attention打破静态稀疏桎梏，后重点阐述全新的Flux Attention，它将动态稀疏注意力范式升级为层级别路由，解决了算法与硬件的矛盾，在多方面实现突破。
Mamba核心作者新作：取代DeepSeek在用的注意力机制，专为推理打造
Mamba核心作者Tri Dao团队提出GTA和GLA两种专为推理定制的注意力机制，在减少KV缓存用量、保持模型质量的同时，显著提升解码速度，优化长上下文推理能力。
评审用不用AI，作者说了算？ICML 2026全新评审政策出炉
ICML 2026 引入评审类型选择机制，作者可决定评审是否用大语言模型。政策 A 禁止，政策 B 允许但有限制。不过大模型使用规定执行难，此规则更像约定。
I/O大会开完，谷歌连搜索框都变智能体了
当地时间周二谷歌I/O大会举行，转型智能体时代。谷歌推出Gemini 3.5系列模型，轻量级3.5 Flash已开放，重量级3.5 Pro仍在开发。还发布全新AI智能体Spark，改造谷歌搜索，推出多模态模型Gemini Omni。
三个月、零基础手搓一块TPU，能推理能训练，还是开源的
加拿大西安大略大学工程师暑期打造开源 ML 推理、训练芯片 TinyTPU。他们非专业出身，从基础学起。还介绍了造 TPU 原因、硬件知识、构建方法，及推理、训练的实现。
万帧？单卡！智源研究院开源轻量级超长视频理解模型Video-XL-2
长视频理解是多模态大模型关键能力，当前开源模型有短板。智源研究院联合发布 Video-XL-2，多维度优化长视频理解能力，还设计效率优化策略，在主流评测基准表现出色，有广泛应用潜力。
腾讯混元AI Infra核心技术重磅开源：推理吞吐提升30%！
腾讯混元AI Infra团队开源生产级高性能LLM推理核心算子库HPC-Ops，基于生产环境痛点开发，降低底层算子开发门槛，实现显著性能突破。在真实场景下，混元、DeepSeek模型推理QPM提升，单算子性能也超越主流算子库。
首次综述「边-云协同计算」，分布式智能与模型优化的最新进展
边缘 - 云协同计算整合边缘节点和云端资源，解决传统云计算问题。最新综述论文系统梳理其架构设计、模型优化等方面，提出统一框架，还指明未来研究方向，如大语言模型部署、6G整合等。
硅谷今夜学中文！Cursor被曝「套壳」国产，AI顶级人才全是华人
新智元报道，硅谷AI圈现神奇现象，不会中文难进核心团队。海外模型频“偷师”国内开源模型，如Cursor的Composer思考时说中文，Windsurf用GLM-4.6微调。国内开源模型量大管饱、性能好还便宜，能力稳居第一梯队。