「文本判别知识蒸馏」共找到 940 篇相关文章
首创像素空间推理，7B模型领先GPT-4o，让VLM能像人类一样「眼脑并用」
当前主流视觉语言模型（VLM）依赖文本token间接翻译视觉信息，缺乏直接视觉操作能力。滑铁卢大学等团队提出「像素空间推理」范式，让VLM能像人类一样「眼脑并用」，在四大视觉推理基准测试中，7B的Pixel - Reasoner表现碾压GPT - 4o等。
学会“吃一堑长一智"，性能飙升11%！XSKILL让AI积累经验和技能
XSKILL框架让AI像人一样积累经验和技能，将任务级技能与动作级经验统一到双流设计中，通过视觉接地提取和检索知识，在多个基准测试中显著提升性能，还展现出跨模型迁移性。
面壁MiniCPM-SALA模型，稀疏-线性注意力，单卡吞吐百万上下文
面壁智能团队提出SALA，基于此训练的MiniCPM-SALA模型，在单张A6000显卡实现百万token超长上下文推理，训练成本降约75%。它结合稀疏与线性注意力，采用混合架构，继承权重降低成本，在长文本处理上优势明显。
The Batch: 884 | Transformer获得新能量
弗吉尼亚大学等机构的研究人员提出 Energy-Based Transformer（EBT），它能检查自身输出。训练时通过能量值优化预测概率向量，测试显示其泛化优但生成特定文本差，扩展性好，为高性能带来新可能。
融云首发“通信+AI”闭环架构，让 AI 有情商、能落地｜甲子光年
8月28日融云在AIM线上发布会推出“通信+AI”产品矩阵，围绕“能落地的好AI”理念打造高情商AI。通信与AI相互增强，构建四层知识体系数字分身，其产品可解决多场景痛点，还能降低开发门槛。
真实评估！北理发布全球首个「全场景教育」基准，支持4000+情境
北京理工大学高扬老师团队推出EduBench，是全球首个「全场景教育」基准，涵盖9大教育场景、12个评估维度、超4000个情境。团队将数据、模型等全面开源，评估发现大模型在特殊教育场景有不足，还提出多源知识蒸馏等方法。
百万规模数据集打造人形机器人通用大模型，实现精细动作跨平台、跨形态动作迁移丨北大人大联合发布
北大和人大团队在通用人形机器人动作生成领域取得重大突破，首创通用动作生成框架Being - M0，构建百万规模动作生成数据集MotionLib，研发文本驱动动作生成模型，实现人体动作向多类型人形机器人迁移，文章将发表于ICML2025。
小小具身智能成果，高中生在腾讯拿下！
腾讯2025星火挑战周上，八十余位高中生聚焦前沿课题取得诸多成果，如具身智能成果获张正友点赞。课题涉及具身智能与机器人、长文本理解等方向，不少项目有实用价值，68名同学获清北offer。
Marble登场！告别不稳定与变形，持久探索3D世界
李飞飞团队World Labs推出Marble并开放有限测试预览，基于图像或文本提示可生成3D世界，具有持久、稳定、风格多样等特点。用户能导出使用，在浏览器自由导航，虽有局限但潜力大。
AI三问：Agent、LLM、RAG，一文厘清！
文章介绍大语言模型（LLM）、检索增强生成（RAG）和AI智能体（Agent）三种架构。阐述其概念、工作原理、应用场景、优缺点，还做了横向对比，给出选用建议，最后提及混合架构与未来趋势。