「大模型预训练」共找到 9576 篇相关文章
“边说边思考”，Mini-Omni-Reasoner 开创实时语音推理新范式
Mini - Omni - Reasoner将推理能力引入大型语音模型，开创“边说边思考”范式，实现实时语音推理与交互。推出Spoken - Math - Problems - 3M数据集，经四阶段生成流程构建。训练采用分阶段策略，性能超基础模型。
哇塞，今天北京被机器人人人人人塞满了！
世界机器人大会在北京开幕，100多个新机器人亮相。智平方的爱宝机器人人气爆棚，它能用一个基座模型完成多任务。其搭载的GOVLA大模型有四大核心能力，且已在多行业商业化落地。
曦望，死磕AI推理成本｜甲子光年
1月27日，国产GPU厂商曦望发布新一代推理GPU芯片启望S3等。启望S3面向大模型推理定制，设计系统级重构，单位Token推理成本降约90%。曦望还推出超节点方案及推理云计划，目标是极致推理性价比。
OpenAI 3万亿美元测试，AI首战44个行业人类专家！
OpenAI推出GDPval评估体系，通过真实工作任务审视大模型潜力，揭示AI从实验室走向3万亿经济战场的可能。早期测试显示，Claude Opus 4.1表现最佳，GPT系列进步快，模型在部分任务逼近人类专家水平。
一个标点就能迷惑LLM-as-a-Judge！
论文揭露惊人漏洞，一个标点或通用推理开场白就能欺骗最先进的LLM裁判，导致强化学习训练崩溃。研究通过实验验证漏洞，提出Master - RM模型，其FPR近乎0%且保持通用裁判能力。
说句话，造个3D世界！腾讯VibeWorlding氛围造世界
香港科技大学（广州）和腾讯团队开源VibeWorlding框架，实现说句话造3D世界。它由VWE - Bench和VibeWorlding - Gym组成，开源模型经强化学习训练后成绩逆袭，证明强化学习解锁3D推理潜力巨大。
阿里发了个简历AI神器，大小仅0.6B
阿里巴巴集团研究团队开发出基于布局感知的简历解析框架，在简历解析任务准确率逼近Claude - 4等顶尖大模型，处理仅需1 - 2秒，直击自动化简历解析痛点，已在阿里HR系统全面部署。
上海AI Lab、浙大EagleLab等提出RRVF：利用「验证非对称性」，只输入图片学习视觉推理
上海AI Lab、浙大EagleLab等联合完成研究，提出RRVF框架，利用「验证非对称性」，仅输入图片学习视觉推理。它构建闭环系统，通过迭代推理、视觉反馈等步骤训练模型，实验显示效果佳，证明验证法则力量。
AI月产十亿行代码，暴增76%！程序员论坛炸锅：代码行数≠生产力！
Greptile基于每月用AI审核的十亿行代码发布AI编程年度报告，显示AI助力下代码生产量飞涨，但论坛对此多存怀疑，还分析了不同大模型SDK下载量、模型适配场景等，也给出2025年关键论文。
ICCV 2025 | 清华&腾讯混元X发现「视觉头」机制：仅5%注意力头负责多模态视觉理解
本文聚焦多模态大模型，提出基于 OCR 任务量化注意力头视觉偏好的方法，发现仅不到 5%“视觉头”主导视觉理解。还提出 SparseMM 策略优化 KV - Cache 资源分配，经多基准评测，性能和效率表现优。