「预填充阶段」共找到 1042 篇相关文章
东方理工团队提出HiDrop：重构MLLM计算路径，压缩90%视觉Token实现2.2倍加速
东方理工大学沈晓宇团队提出HiDrop，基于MLLM不同层功能差异，设计出延迟注入、凹金字塔式剪枝和提前退出的视觉Token压缩策略。实验显示，它能压缩约90%视觉Token，保持98.3%性能，实现训练和预填充加速。
Openai-o3 做不到的事,7B 模型做到了! 推荐系统“慢思考”,广告收入暴涨 4.1%
随着GPT - 4等大语言模型兴起，LLM用于推荐系统遇瓶颈，当前方法停在‘System - 1思维’阶段。A4ec框架把LLM从‘快思考’升级到‘慢思考’，用7B模型实现推荐系统升级，使广告收入暴涨4.1%。
完成过亿融资，复旦博士要为不同端侧场景定制专属推理芯片丨对话淬思科技潘鸿洋
本文是对淬思科技创始人潘鸿洋的专访，潘鸿洋为复旦博士，淬思科技刚完成新一轮亿元融资，瞄准端侧AI推理成熟阶段的碎片化需求，主打定制专属推理芯片，采用AI原生设计流程压缩开发成本与周期，计划推进首颗商用芯片流片。
月之亮剑：万亿参数，造就国内首个 Agentic Model？
月之暗面发布全球首个万亿参数且直接开源的 Agentic Model Kimi - K2，它将 AI 下半场与经验时代理论融合。在测评中表现出色，Kimi 还通过创新方法完成预训练和后训练，并将成果开源，给中国开发者更多自主权。
精打细算虾养成指南： 省 Token 和把 AI 用好，从来就是一件事
文章指出用AI时Token成本高、模型变笨，原因是上下文管理不善。介绍了省Token和用好AI的方法，如按需取上下文、明确约束、多智能体协作、按阶段切换模型等，核心是在合适时间将合适上下文装入合适模型。
Qwen3技术报告首次全公开！“混合推理模型”是这样炼成的
本文首次公开Qwen3技术报告，介绍其模型架构、预训练及后训练过程、性能表现等技术细节。Qwen3整合两种模式，引入思考预算机制，降低轻量级模型计算资源，在多基准测试领先，多语言支持扩展至119种，所有模型开源。
蚂蚁·安诊儿医疗大模型：正式开源并登顶权威医疗榜单
近日，蚂蚁集团联合浙江省卫生健康委开源自研的蚂蚁·安诊儿医疗大模型。它基于蚂蚁百灵大模型架构，经深度训练，是参数规模最大的开源医疗模型。该模型在多评测中表现出色，有三阶段训练流程，架构高效、推理快，已开源助力行业发展。
欲取代transformer的SSA(次平方稀疏注意力)解读
文章解读了欲取代Transformer的SSA（次平方稀疏注意力）算法。它支持12M tokens上下文，比fastAttention快52倍，训练和推理更快。SSA改变了注意力扩展特性，有计算和内存线性扩展等特性，经三阶段训练可可靠利用长上下文。
英伟达4B小模型击败GPT-5 Pro！成本仅1/36
英伟达ARC - AGI 2中，4B小模型NVARC以27.64%成绩力压GPT - 5 Pro登顶，单任务成本仅其1/36。亮点是零预训练深度学习法，还靠合成数据、测试时微调等策略。小模型特定领域优化后优势明显。
基于大模型的领域场景开发：从单智能体到多智能体的React框架设计与实现
作者团队经历从提示词工程到流程编排模式各阶段，现设计架构升级，选用层级指挥模式的React框架，实现单智能体对工具调用的反思规划，后续还将迭代实现多智能体协作，同时提及技术选型、系统架构等内容。