「小模型性能」共找到 8697 篇相关文章
大模型训练新突破！Meta提出LSP：无数据也能实现能力飞升
Meta提出语言自我博弈（LSP）方法，利用自我博弈框架让模型自我改进，不依赖额外数据。LSP赋予模型挑战者和解题者身份，引入GRPO和KL散度正则化技术，解决了大模型训练的数据依赖难题。
多模态大模型中Attention机制暗藏「骗局」，需用一个公式修正丨上大×南开
上海大学曾丹团队研究发现，主流VLM中attention受位置偏置和padding区域异常高attention影响，直接用其进行视觉token剪枝会丢失关键信息。团队用公式对attention去偏，集成到多种剪枝方法，提升了模型性能。
大模型七连发，外国人馋透了！阿里云栖大会全栈升级够狠
阿里在2025云栖大会全栈升级，发布七款通义新模型，从基础大模型到各专项领域全覆盖。旗舰模型Qwen3 - Max性能超GPT - 5等，新架构Qwen3 - Next实现效率突破，多模型开源且表现出色。
多模态大模型理解物理工具吗？PhysToolBench提出了衡量多模态大模型对物理工具理解的基准
香港科技大学等团队提出 PhysToolBench，用于衡量多模态大模型对物理工具的理解。它将理解分为三个等级，测试 32 个模型，揭示了大模型在工具理解上的不足，也为未来发展指明方向。
“VLA和世界模型都不是终局，会有物理世界独有的模型” | 蚂蚁灵波沈宇军@AIGC2026
在2026中国AIGC产业峰会，蚂蚁灵波沈宇军与李根深度对话。沈宇军指出大模型踩中互联网数据红利，但机器人数据空白。他认为VLA和世界模型非具身智能终局，未来会有物理世界独有的模型。
Altman 秀新模型“翻车”，谷歌补刀躺赢！OpenAI 前员工爆肝 3 天，编程再赢老东家模型！
近期，OpenAI 携多款未公开新模型亮相。在 IMO 竞赛中，其宣称新模型获金牌，谷歌 DeepMind 的 Gemini Deep Think 也达金牌水平，但网友对二者评价不一。此外，‘o3 Alpha’疑上线，前 OpenAI 员工还在编程赛中击败 OpenAI 模型。
大模型 Token 究竟是啥：图解大模型Token
文章详细解释大模型Token概念，指出分词器会把文字切成Token，不同分词器切分结果不同。还介绍分词器的分词方法，通过统计文字出现频率打包成Token并编号，不同模型切分结果有差异。
奖励模型终于迎来预训练新时代！上海AI Lab、复旦POLAR，开启Scaling新范式
在大语言模型后训练阶段，奖励模型设计与训练是关键瓶颈。上海AI Lab、复旦推出预训练奖励模型POLAR，采用策略判别学习新范式，适配强化微调，性能和泛化能力强，为LLM后训练带来新可能。
钉钉上跑出的第一个行业专属大模型落地：准确率超 90% 的妇科专业大模型
近日，壹生检康在钉钉企业专属 AI 平台训练出“豆蔻妇科大模型”，准确率达 90.2%。钉钉构建支持体系助企业构建大模型，后续还将帮伙伴构建模型和智能体，服务中小企业。
如何重现 DeepSeek 推理性能突破
DeepSeek-V3 是热门开源大模型，采用大规模 MoE 架构，优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化，对齐其推理系统性能，分享关键技术、不足与思考，还提及对 Qwen3 模型的优化策略。