「模型安全」共找到 8265 篇相关文章
刚刚！OpenAI与Anthropic CEO罕见同台，黄仁勋当场唱反调：AI到底要不要踩刹车？
Salesforce Dreamforce 2026大会上，OpenAI、Anthropic、英伟达三大AI巨头CEO罕见同台，围绕AI发展是否需要踩刹车展开激烈论战，各方立场背后暗藏产业利益博弈，头部模型厂商已密谈行业安全协同。
突发！OpenAI紧急暂停GPT-6训练
OpenAI奥特曼官宣暂停下一代旗舰模型强化学习训练两周，原因是确保安全等标准跟上能力水平。触发因素有Hugging Face事故和Astra达安全红线，后续将让AI监管AI，加固三道安全防线。
LLM加RL遭质疑：故意用错奖励，数学基准也显著提升，AI圈炸了
华盛顿大学等机构论文引爆AI界，其发现用虚假奖励训练Qwen2.5-Math-7B模型，也能提高MATH - 500成绩。虚假奖励对Qwen模型有效，但在其他模型上有限，凸显RLVR有效性与模型能力有关。
618想换电脑跑AI？先听我一句劝。
文章围绕618换电脑跑AI展开，分析了本地跑AI的情况，包括不同模型对算力和显存的要求，指出本地跑的好处是隐私安全、无限免费，还推荐了不同预算的笔记本，为想换电脑学AI的人提供参考。
刚刚，全球最强GPT-6 Astra来了！人类进入AGI时代
OpenAI官宣下一代旗舰模型GPT - 6 Astra，定义其为「世界上最智能、对齐程度最高」的模型。它多项基准测试成绩惊人，在编程、计算机使用等多领域表现卓越，还改写科研纪录，不过因安全能力强暂未全开放。
奥特曼承认OpenAI路线走偏了，以及“写代码将变得不再重要”
奥特曼在直播中给出诸多实诚结论，如未来工程师人数或大幅增加，写代码时间将减少，OpenAI搞砸ChatGPT5系列模型，后续会回归通用模型，还探讨了AI对教育、经济、安全等方面的影响。
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
三个关键词，2026谷歌 I/O大会全说透了
北京时间今天凌晨，谷歌 I/O 2026 落幕。皮查伊称聚焦模型、编程和智能体。模型上，Gemini 3.5 Flash 全量上线，性能超上一代；编程方面，Antigravity 2.0 用低成本造能跑 Doom 的系统；智能体层，Spark 和 Search Agents 让 AI 走出对话框。
刚刚，DeepSeek多模态技术范式公布，以视觉原语思考
DeepSeek发布多模态模型并公布技术报告，提出‘以视觉原语思考’。该模型解决多模态大模型‘指代鸿沟’问题，有把坐标变思维单元、7056倍视觉压缩、精心设计冷启动数据等创新，实验在多任务上超主流模型。
CVPR 2026 | 20步也能稳住画质，这个扩散加速方法不一样
扩散模型推理效率是落地应用的核心制约因素，阿里安全 AGI 实验室 - 御风大模型团队联合浙江大学提出全新扩散加速方法 TC - Padé，在低步数设置下能兼顾生成质量与推理效率，已被 CVPR 2026 录用。