「推理数据」共找到 4280 篇相关文章
推理时扰动高熵词,增强LLM性能
香港科技大学(广州)研究团队发现LLM推理时,一小部分高熵词显著影响输出正确性。基于此提出MTI方法,含Selective CFG intervention与Lightweight negative - prompt guidance,无需额外训练,能提升模型推理能力。
Vercel 推出 Drains 功能:实现统一数据导出
Vercel 发布 Drains 系统,将平台可观测性数据统一导出至外部服务,覆盖多来源日志等。用户可两种方式配置,导出数据与多系统兼容,能简化接入流程、减少管道碎片化。
首个自主数据科学的智能体
DeepAnalyze是业界首个能自主完成数据科学任务的智能体大语言模型,可自动执行数据准备、分析等任务,支持多种数据源,且模型、代码等全部开源,还给出了使用和开发方法。
一篇多模态大模型推理技术最新综述
华东师大&字节跳动系统回顾基于强化学习的MLLMs推理进展,涵盖关键算法设计、奖励机制创新及实际应用,探讨了RL在LLMs/MLLMs中的关键设计与优化策略,还涉及多模态大模型推理多方面内容。
Transformer创新架构SALA:上下文更长,推理更快
面壁智能发布行业首个大规模训练的稀疏 - 线性注意力混合架构 SALA 及文本模型 MiniCPM - SALA。该架构降低推理开销与显存占用,MiniCPM - SALA 在长文本处理及推理上表现出色,还发起大奖赛探索性能极限。
万字长文!大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开,先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求,再阐述模型并行、注意力机制优化、模型优化和模型服务等技术,如Pipeline并行、MQA、量化、动态批处理等。
从 SQL 到 OSI:当“数据是什么意思”也有了标准答案
本文回顾 SQL 统一世界的历史,引出 OSI 标准。OSI 解决“数据是什么意思”的标准化问题,众多全球数据技术公司参与。还介绍各厂商语义层布局,分析对中国企业的影响及 OSI 未解决的问题。
ICML2025 | 揭示MLLM的图文联动推理能力
当前多模态大语言模型(MLLMs)在图文深度融合推理能力上面临挑战,现有评测基准无法真正检验该能力。EMMA基准应运而生,它从四大领域精选题目,采用双重过滤机制和细粒度标注体系,评测发现MLLMs存在多模态推理危机。
SRO赋能Qwen-2.5-VL推理性能飙升16.8%
文本领域推理模型成就大,但多模态大型语言模型推理能力扩展遇阻,如冷启动初始化不足等。提出SRO三阶段训练框架,经测试,ReVisual - R1平均性能提升16.8%。
2026具身智能数据赛道,卷出了一匹「黑马」
在具身智能面临数据掣肘的背景下,觅蜂科技宣布2026年4月16日将在上海举办一站式物理AI数据服务平台发布会,展示全栈方案,解决核心痛点,发布会有诸多看点,还将举办高规格圆桌论坛。