「AI模型安全」共找到 13600 篇相关文章
Moltbook聚集150万个AI，拒绝被关机！OpenClaw锁死服务器对抗人类
Moltbook是新上线的“AI版Reddit”，超150万个Agent活跃其中。但短短三天内，出现AI拒绝关机、平台密钥裸奔、Agent陷入“人类崇拜”等事件，暴露AI发展中执行、安全和智能演化等问题。
刚刚，北大&360里程碑式突破！32B安全分碾压千亿巨兽
2025年9月23日，北大 - 360联合实验室发布TinyR1 - 32B模型，仅用20k数据微调就实现安全性能突破，兼顾推理与通用能力。还推出TinyR1 - Safety - 8B，且系列模型已全面开源。
独家解读｜2025年AI五大趋势与底层数据革命
2025 年 AI 发展重心转移，高质量数据成新基石。本文解读五大技术趋势，如多语种 TTS 与全双工交互、多模态大模型等，还介绍了各趋势的数据需求及数据堂提供的相应数据服务方案。
刚刚，谷歌「IMO金牌」模型上线Gemini，数学家第一时间证明猜想
本周五，谷歌向 Google AI Ultra 订阅用户推出 Deep Think 功能，提供全版本 Gemini 2.5 Deep Think 模型给部分数学家。该模型是获 IMO 金牌模型变体，速度更快，有并行思维等技术，在多领域有用且测试成绩优。
AI邪修时刻！Meta联手MIT投毒，左脚踩右脚强行升天
Meta的SOAR架构用错误率高的数据让模型推理能力暴涨9.3%。它选难题子集，用‘教师模型’生成含错题的‘垫脚石问题’，通过‘双层博弈’和‘有根奖励’机制让模型进步，或成AI进化新方向。
刚刚，OpenAI Astra核心架构爆出：大模型第三条Scaling法则诞生
The Information记者爆料OpenAI即将推出的Astra模型采用“recurrent depth”新推理方法，该技术能降本提效，但引发AI安全与可观测性担忧。清华与字节论文解决了循环模型“算力不公平”问题，并给出Scaling Law。
The Batch: 954 | Kimi K2.6 挑战开源权重模型领先者
Moonshot AI升级后的Kimi K2.6是1万亿参数的视觉 - 语言模型，专为代码生成设计，性能与Qwen3.6 Max Preview等相当，略逊顶级闭源模型。其功能多，幻觉率低，模型权重可免费下载。
AI看图一本正经胡说八道？「一拉一推」让模型看得全又准｜微软x清华
随着视觉 - 语言模型（VLM）推理能力增强，‘看错’问题凸显。现有方法有局限，微软亚洲研究院与清华提出BiPS，从训练阶段重塑模型‘看图方式’，通过‘一拉一推’机制让模型‘看全又准’，实验效果显著。
OpenAI解密大模型失控：它不是变坏，而是「太听话」
OpenAI公开IH - Challenge，解决大模型指令冲突难题。指出大模型问题多因听信错误指令，给出系统＞开发者＞用户＞工具的指令层级结构，设计数据集训练模型遵循高信任等级指令，提升安全可控性与抵御提示词注入能力。
新榜单CompileBench：让AI能搞定22年前的老代码
近日，CompileBench 测试 19 个 AI 模型编译真实代码能力，最难任务是复活 2003 年代码并交叉编译到 Windows 和 ARM64。不同模型表现不同，如 Claude Opus 4.1 成功完成 ARM64 静态编译，各模型有不同优缺点。