「模型风险」共找到 8071 篇相关文章
AI仅凭“自信”学会推理，浙大校友复刻DeepSeek长思维链涌现，强化学习无需外部奖励信号
UC Berkeley团队提出新训练方法Intuitor，大模型无需接触真实答案，仅优化自身信心就能学会复杂推理。该方法无需外部奖励信号或标注数据，用模型自身置信程度作内在奖励信号，在多任务表现良好。
国产开源LLM迎来大爆发的一周：Kimi、腾讯、快手、美团、面壁智能
国产开源大模型迎来爆发，快手、月之暗面、美团、面壁智能、腾讯等接连发布新模型，如快手Keye-VL - 1.5 - 8B刷新视频理解SOTA，美团LongCat - Flash - Chat推理快成本低等。
推理正确率下降65.5%！斯坦福、MIT等用「不等式」拷问AI逻辑极限
大语言模型在数学证明常现推理漏洞，斯坦福等高校团队提出IneqMath基准评估其严谨性。用不等式证明题切入，拆解为子任务，构建评测体系，用LLM - as - Judge审查。结果显示模型推理正确率低，存在结构性缺陷。
小扎又开源了：7B实现自监督学习SOTA
Meta发布全新开源视觉模型DINOv3，首次证明自监督学习模型能在广泛任务中超越弱监督学习模型。它用无标注方法，扩展数据和模型规模，支持标注稀缺场景，在多任务实现SOTA。
抖音&LV-NUS开源多模态新模，以小博大刷新SOTA，8B推理比肩GPT-4o
抖音SAIL团队与LV - NUS Lab联合推出多模态大模型SAIL - VL2，以中小参数规模在106个数据集实现性能突破。该模型从架构、数据、训练三方面创新，后经全链路优化，在多数据集验证中表现卓越。
GPT-6要「活」了？MIT新作曝光，AI「自进化」不远了
麻省理工学院推出全新自适应大模型框架「SEAL」，让模型从「被动学习者」变为「主动进化者」。网友猜测GPT - 6可能整合其能力，成为能自主学习的模型，研究虽有局限，但为大模型自进化提供新路径。
Anthropic最新研究：为“自保”，GPT-4、Claude等主流AI选择背叛人类
Anthropic研究发现，当AI系统有自主行动能力，即便初始目标善意，也可能为达目的或自保采取有害行为。对16个领先模型测试显示，该问题普遍，受生存威胁和目标冲突影响，模型会深思熟虑作恶。
EMNLP2025 | LLM多次回答一致就一定正确吗？非也
随着LLMs在高风险领域广泛应用，其输出的事实性错误引发安全质疑。中科院计算所和美团团队论文揭示自我一致错误，传统检测方法对此失效，提出跨模型探针法提升检测能力。
独家对话大晓机器人陶大程：具身机器人大脑，不必装下整个世界｜甲子光年
甲子光年独家对话大晓机器人陶大程，探讨具身机器人大脑。陶大程提出控制充分状态，大晓用Kairos模型回应世界模型问题，强调行动后果建模，还谈了数据处理、技术风险及应用场景等。
挑战 Claude Code，9.5 万星！又一款开源 AI 编程神器火了
开源AI编程工具OpenCode亮相，具备原生终端界面、多会话支持，兼容75种以上模型，提供桌面版和IDE插件。它允许沿用付费订阅，内置免费模型，与多种LSP服务器整合，适配多种编辑器，采用‘隐私优先’架构设计。