搜索：稀疏语言模型

「稀疏语言模型」共找到 7877 篇相关文章

AAAI 2026｜AP2O-Coder 让大模型拥有「错题本」，像人类一样按题型高效刷题

在AI辅助Coding技术发展背景下，开源大语言模型生成代码有运行错误。上交博士团队提出AP2O方法，构建AP2O - Coder框架，借鉴人类学习模式，经实验验证能提升模型性能、抑制错误、提高样本效率，还适配通用模型。

Hugging Face发布《The Smol Training Playbook》，分享约4年构建SOTA模型和数据集的经验。手册涵盖是否训练、训练何种模型、如何训练等内容，强调数据质量重要性，还介绍了模型设计、训练中的实践与教训。

文章围绕本地大语言模型（LLM）展开，针对实用性和经济性问题，用Dell Precision 7960塔式工作站对主流模型测试。涉及不同尺寸模型、推理框架等，给出不同配置下性能指标及使用建议，还模拟真实场景测试。

当前视频检索研究陷入困境，现有模型难以应对复杂检索需求。香港科技大学（广州）联合阿里巴巴通义实验室推出通用视频嵌入模型GVE，其在零样本设置下超越14个主流模型，全链条创新为视频检索通用化奠定基础。

腾讯混元大模型团队发布并开源轻量级视频生成模型HunyuanVideo 1.5，参数8.3B，支持5 - 10秒高清视频生成。它通过多层次技术创新，在生成效果、性能与尺寸上实现平衡，还具备多种核心能力。

昨晚腾讯开源WMT2025冠军翻译大模型Hunyuan - MT - 7B，它在31种语言测试中获30个第一，成同类最佳。文中介绍其架构、训练过程，还通过多场景翻译案例展现优势，有望推动高质量翻译普及。

大语言模型领域，推理效率制约实际应用。谷歌Gemini diffusion曾展扩散模型并行潜力，但开源扩散LLM推理慢。近日，NVIDIA等推出Fast - dLLM，无需训练即插即用，推理速度狂飙27.6倍，兼顾速度与精度。

在NLP领域，处理长文本时传统注意力机制效率低。DeepSeek团队推出DeepSeek-V3.2-Exp模型，引入稀疏注意力机制，在保持性能同时提高长文本处理效率，降低计算复杂度，在多基准测试中表现良好。

Claude团队推出“电路追踪”工具，可生成归因图呈现LLM处理信息路径，支持在主流开源权重模型上快速生成。研究人员能借此解码LLM“决策逻辑”，官方还给出多语言电路等示例。

南洋理工大学陶大程教授团队联合发布评测报告，揭示扩散语言模型在智能体能力上有系统性缺陷，落后自回归模型。还分析其失败原因，提出评测框架，明确能力边界并给出研究建议。