「降本方案」共找到 1378 篇相关文章
32B 稠密模型推理能力超越 R1？中国秘密 AI 团队发布推理小模型 AM-Thinking-v1
2025年，国内神秘A - M - team在Hugging Face开源32B推理模型AM - Thinking - v1。它在多推理评测中击败DeepSeek - R1，与超大规模模型成绩相当。团队靠后训练方案挖掘32B模型潜力，探索小体量实现大能力路径。
英伟达MIT出手！华人团队重磅开源，大模型推理内存暴降10倍
英伟达、MIT、浙大华人研究者联合推出TriAttention，核心是在pre - RoPE空间用Q/K三角集中度估计KV token重要性，保留关键部分。它使内存消耗降10倍，吞吐量提2.5倍，还提供vLLM集成和MLX实验性支持。
刚刚，OpenAI 发了一份 13 页的「超级智能新政」
OpenAI 发布 13 页政策白皮书《智能时代的产业政策：以人为先》，提出让繁荣惠及所有人、降低风险、普及 AI 三大目标，并给出公共财富基金、效率红利分配、税制改革等具体方案，同时 Sam Altman 表达了对 AI 发展的紧迫感。
良心老黄不搞硅谷资本家那套！Groq人均套现500万美元
英伟达斥200亿美元收购「TPU之父」创业公司Groq，不仅拿下技术授权，还安顿好其员工和股东。90%的团队被打包带走，人均到手500万美元，此次交易被视为双赢。同时，英伟达借此解锁LPU新方案。
总成本降低30倍，告别昂贵后训练，在线策略蒸馏敲开大模型后训练的未来
明星公司Thinking Machines由前OpenAI首席技术官联合创立，其研究团队提出在线策略蒸馏的LLM后训练方法。该方法结合在线策略训练与蒸馏优势，解决后训练两难困境，成本降30倍，还为持续学习和个性化打开新大门。
AI 时代，实时入湖正在告别 ETL：从 Kafka 到 Iceberg 的架构减法
在AI驱动的数据应用场景中，Kafka、Iceberg开放表格式与对象存储组合成流数据入湖重要方向。传统ETL方式有链路长等问题，文章围绕“零ETL”讨论架构减法，介绍Kafka × Table Bucket方案及优势、适用场景。
15年差评如潮，Siri终于有救了！苹果10亿真金白银投谷歌一票
苹果宣布和谷歌合作，用Gemini升级Siri等AI功能，此为过渡方案，苹果未来计划推自研1万亿参数模型。此前谷歌每年付苹果200亿做搜索，这次苹果或每年付10亿用Gemini。
万字长文 | 异构算力技术架构与核心组件解析
文章聚焦异构算力技术架构与核心组件，解析主流AI芯片特点、国产芯片技术路线；介绍高速互联技术、网络拓扑结构及优化方法；阐述大模型存储需求、分布式存储技术及数据预处理与加载技术，为AI计算提供全面方案。
训练数据量降低1万倍，谷歌提出超高质量数据主动学习方法
将大模型应用于特定领域需数据微调，但筛选高保真训练数据难度大、成本高。谷歌提出新主动学习筛选流程，能将训练数据规模降1万倍，还提升模型与人类专家一致性。经实验验证，该方法效果显著。
RLinf上新πRL：在线强化学习微调π0和π0.5
近年来，基于流匹配的VLA模型成机器人领域前沿技术，但训练依赖大量人类演示数据。清华等机构联合推出在线强化学习微调框架πRL，提出两种微调方案，在测试平台验证了有效性，目前代码等已开源。