搜索：Token压缩技术

「Token压缩技术」共找到 3511 篇相关文章

开源共建重塑推理 Infra：从架构创新到生态协同，Mooncake的破局之路

大模型推理落地面临成本、吞吐、长上下文“三角困境”。开源项目Mooncake以“计算存储解耦”为核心，通过PD分离等技术提供底层支撑。直播邀请专家从多视角拆解其技术逻辑、开源价值与企业实践。

最新混合模态在线视频定位技术OVG - HQ开挂了！它能根据文字、图、视频片段等线索，在实时视频流中精准裁剪出关心的事件，已收录于ICCV2025，破局以往技术“离线”“词穷”缺陷。

华为泰勒实验室等团队提出 SHAPE，给推理链装「里程碑 + 推理税」机制。它分三步，能统一势能增益度量、阶段难度感知和 token 效率约束。实验显示，它提升准确率、降低 token 消耗，还解决了推理坍缩等问题。

4月16 - 18日QCon全球软件开发大会将在北京举办，聚焦Agentic AI等前沿话题，有百余落地案例。蚂蚁集团郭春晓将分享《蚂蚁阿福：从0到生产的医疗Agent工程化落地》，探讨构建技术体系等内容。

这是拾象团队的 AI 投资思考报告，复盘当下竞争时局，拆解 2026 年核心技术与产品趋势。分析了头部模型格局、技术路线、算力阵营等，探讨投资策略，还提及多模态、机器人、Agent 等领域发展。

在大数据和大模型推动下，遥感微调技术从全参数微调发展到混合微调。清华等团队在CVMJ期刊梳理技术脉络，涵盖适配器、提示等微调方法，还指出9个潜在研究方向，助力遥感技术应用。

先进封装成后摩尔时代芯片算力提升关键，玻璃基板封装受关注，但仍处验证阶段。TGV技术成熟度是玻璃基板技术破局点，国内部分企业有突破，不过玻璃材料物理特性制约其普及。

文章介绍结合distilabel与QLoRA技术定制专属大模型的路径。先用distilabel框架利用DeepSeek - R1生成医疗指令数据集，再用QLoRA技术微调Qwen3 - 4B模型，还给出实战路线图和代码示例。

微软基于Phi-4-mini版本，针对特定推理任务微调出Phi-4-mini-Flash-Reasoning 3B模型，将其扩展到200064 tokens。采用新型SambaY架构，支持64K token上下文长度，运行快10倍，有诸多优点。

金融时报消息，前OpenAI首席技术官Mira Murati创立的AI公司“Thinking Machines Lab”获20亿美元种子轮融资，估值100亿美元。公司致力于开发人工通用智能，目前对产品和技术细节高度保密。