「AI安全测试」共找到 11012 篇相关文章
用 Astra+Codex 干掉 CUDA！奥特曼9个月AI造芯反杀英伟达 GB300
北京时间昨日凌晨，OpenAI 公布自研推理芯片 Jalapeño 实测结果，其在多指标挑落英伟达 GB300。OpenAI 用 GPT - 6 和加强版 Codex 造芯，9 个月完成硬件设计优化，3 个月搞定软件栈，威胁英伟达 CUDA 根基。
AI看图一本正经胡说八道？「一拉一推」让模型看得全又准｜微软x清华
随着视觉 - 语言模型（VLM）推理能力增强，‘看错’问题凸显。现有方法有局限，微软亚洲研究院与清华提出BiPS，从训练阶段重塑模型‘看图方式’，通过‘一拉一推’机制让模型‘看全又准’，实验效果显著。
比传统方法强7倍：Anthropic物理隔离危险知识，重塑大模型安全训练范式
Anthropic团队提出选择性梯度掩码技术（SGTM），在训练阶段将危险知识物理隔离到特定参数并剔除，实现安全性与通用能力更好平衡，抗恢复性是传统方法7倍，还能处理未标记危险数据。
模型换个Harness就「变笨」？EverMind把自进化从研究推向产品，让AI「越用越聪明」
同一模型换 Harness 表现或大幅波动，暴露自进化走向产品的两个关键问题。EverMind 用 HarnessBank、Raven 与 EverMe 解决，将自进化从研究推向产品，让 AI「越用越聪明」。
组织也能fork？Karpathy提出"代码即公司"
Karpathy提出“代码即公司”观点，认为AI驱动的组织可像代码仓库一样被复制、修改、迭代。传统组织因“制度性知识”难以fork，AI能将隐性知识显性化。交易公司或成首个被fork的组织类型，管理协调是核心竞争力。
万字长文 | 异构算力技术架构与核心组件解析
文章聚焦异构算力技术架构与核心组件，解析主流AI芯片特点、国产芯片技术路线；介绍高速互联技术、网络拓扑结构及优化方法；阐述大模型存储需求、分布式存储技术及数据预处理与加载技术，为AI计算提供全面方案。
当人们怀念 GPT-4o，他们在「怀念」什么？
8月8日OpenAI下架GPT - 4o强制用GPT - 5，用户不满新模型冷漠，发起“拯救4o”运动。OpenAI被迫恢复上架4o，但用户信任动摇。此风波凸显AI情绪价值重要，也给AI公司产品迭代敲响警钟。
Axiom Math 对谈 SGLang：模型的下一步是可验证，结果层才是真正的护城河
在AGI Playground 2026圆桌论坛，Axiom Math联合创始人等探讨AI核心问题。提到AI进入生产环境，可验证或成瓶颈，还从长任务智能体、推理基建等多方面深入交流，如模型验证、基建优化等。
小扎把马斯克机器人一号位挖走了
马斯克忙着裁人，小扎忙着挖人。Optimus AI团队负责人Ashish Kumar离开特斯拉，加入Meta。此前Optimus项目负责人Milan Kovac也已离职。此外，xAI部分高管因与顾问冲突而离职，马斯克AI之路或需调整架构。
半在线RL新范式UI-S1，使得GUI Agent既稳定又规划长远
现有AI训练方法在GUI自动化中各有弊端，本文提出半在线强化学习范式，训练出UI - S1 - 7B模型，性能提升显著，还提出新评估指标SOP，是迈向实用化AI智能体的重要一步。