「模型风险」共找到 8071 篇相关文章
借助CoT监管AI？OpenAI、谷歌、Anthropic等罕见联合发文：AI系统安全的新机遇！
OpenAI等支持新研究论文，其指出高级AI不透明性有潜在风险，而‘推理模型’用自然语言推理带来可解释窗口，CoT监控可检测不当行为、发现早期信号等，但也存在使监控性下降的因素。
重写手机AI安全边界！首个MoAI攻防SoK，系统梳理三大安全支柱
墨尔本大学等联合发布论文指出，移动端AI硬件和模型发展使MoAI成重要范式，但带来安全风险。论文给出统一框架，拆解系统为四层，定义三大安全支柱，梳理攻击、防御图谱等，还提出开放问题与未来方向。
Copilot 创始工程师：大多数 AI 编码“就像开着法拉利去买牛奶一样
GitHub Copilot 创始工程师 Neel Sundaresan 正在构建 IBM Bob 智能编码工具，已有 8 万 IBM 开发者使用。他认为多数 AI 编码成本高，Bob 会按需调度模型。他还对智能体 AI 市场发表了看法，指出其有价值也有风险。
北大发布学术搜索评测ScholarSearch：难倒一众DeepResearch的“开卷考试”
北京大学DS - Lab发布ScholarSearch，这是评估大语言模型学术检索能力的数据集，含223道高难度题目。评估显示现有模型表现欠佳，纯推理模型准确率低，有搜索功能的模型虽有提升但仍不足。
硅谷火了一年的 AI Roll-Up，正在把“买公司”变成新的 AI 创业模式
文章指出，AI投资正从“卖工具”走向“拥有运营”，AI Roll - Up模式兴起。它回应了AI SaaS的结构性困境，经济模型与传统PE roll - up有别。五个趋势加速其发展，但也面临整合、竞争等风险，还介绍了投资地图和幕后资本力量。
「世界理解」维度看AI视频生成：Veo3和Sora2水平如何？新基准来了
近年来，T2V模型进展显著，Sora2爆火引发对其是否为‘世界模型’的探讨。传统基准无法系统衡量模型对事件因果等的理解，中山大学等团队提出新评测框架VideoVerse，评测主流模型并发现开源与闭源模型差距及各模型缺陷。
Meta打碎Transformer 8年铁律！改写AI最底层规则，模型首次冒出潜意识
Meta推出「自由Transformer」新模型，打破自2017年以来GPT模型核心规则，在解码器引入潜在随机变量Z，增加“潜意识”。仅增约3%计算开销，在多测试中超越大规模模型，或开启后自回归时代。
Agent、图像、视频全是大版本升级：春晚还没开，豆包AI就火了
2026年AI市场竞争激烈，海外公司密集发布新模型致华尔街震动。国内腾讯、阿里、字节参战，字节官宣豆包参与春晚互动。2月14日火山引擎宣布豆包系列模型全面升级，含大模型2.0、图像模型Seedream 5.0 Lite、视频模型Seedance 2.0。
从今天起，开源前五，全！是！中！国！大！模！型！
短短一年，LMArena开源模型榜单前五全被中国大模型占领，智谱Z.ai登顶，阿里、DeepSeek等紧随其后。LMArena是权威评测平台，盲测机制保证排名真实。中国模型性价比高，正用开源和低价占领市场。
视觉强≠能干活！清北普林斯顿等开源WorldArena，世界模型评测被颠覆
2026 年 2 月 13 日，清华、北大等顶尖机构联合推出的 WorldArena 面向全球开源。这是首个‘功能 + 视觉’统一评测体系，撕开了‘美丽视频’伪装，让评测从‘审美导向’走向‘功能导向’。