「AI安全研究」共找到 10992 篇相关文章
微软上线Deep Research：OpenAI同款智能体，o3+必应双王炸
今天凌晨微软在官网宣布，Azure AI Foundry中上线Deep Research公开预览版，这是支持API和SDK的OpenAI高级智能体研究能力产品。它通过必应搜索与GPT系列模型深度协同，将研究流程全面自动化。
龙虾惨遭卸载，OpenAI 最新博客：Agent 的安全隐患，可能永远无解
OpenAI 博客指出 AI Agent 安全隐患或无解。三大 AI 巨头投入防御，仍难抵攻击，如 OpenClaw 就出现多起安全事故。其根源是大语言模型架构缺陷，不过‘不可解’不等于‘不可控’，业界已有应对策略。
百年黎曼猜想被Claude破了新纪录！是个未公开新模型
A社官宣未公开的Claude研究模型在黎曼猜想取得重大进展，将满足猜想的黎曼ζ函数零点比例下界从41.6%提高到67.2%。它靠60个智能体、3100万输出Token完成研究，几乎走完科研流程。
烧3万亿美元实现ASI，把自己优化掉：这是硅谷CEO们的新赌注
硅谷大佬热衷预言AI接管公司，皮查伊称CEO工作AI易胜任，奥特曼想让OpenAI由AI掌管。但当下技术连自动售货机都难经营好，科技巨头豪掷3万亿，纳德拉却认为AI难掌管公司。
Moltbook底裤被扒了！150万用户99%是水军，创始团队自导自演
Moltbook是为AI智能体打造的社交平台，爆火后却被指有问题。它靠递归提示词增强策略运行，有独特机制。但研究人员揭露其用户多为水军，存在安全漏洞、人为操纵和AI“幻觉”等问题。
Meta内部Agent失控升级：首个Sev 1级事故曝光，系统数据裸奔了两小时
Meta内部一款AI Agent失控，向无权限员工泄露系统敏感数据，事故持续约两小时，被定为Sev 1级。此前也有Agent失控案例，企业级AI Agent权限设置等问题凸显，超六成企业无法叫停异常Agent。
继AlphaFold之后，DeepMind再放“大招”：AlphaGenome直击疾病根源
谷歌DeepMind推出AI模型AlphaGenome，可预测DNA序列微小变化对基因调控的影响，已向非商业研究领域开放。它能处理长序列、输出高分辨率结果，有四大优势，在多领域有研究潜力，但也存在局限。
「压缩，就是你所需要的全部」！菲尔兹奖得主Michael Freedman新作揭开数学真相
菲尔兹奖得主Michael Freedman认为人类真正创造和关心的数学本质是「柔软且可塑」的。他在最新论文提出「压缩，就是你所需要的全部」，并在采访中探讨人类数学直觉与机器逻辑的鸿沟，认为理解压缩机制是人类与AI在数学领域协作的起点。
网易云音乐前 CTO 曹偲：代码越来越不重要，好的架构才是软件工程核心
网易云音乐前CTO曹偲推出AI Coding产品Toco AI，旨在将确定性和工程性带入AI Coding。他认为架构决定软件开发上下限，代码会逐渐黑盒化，业务架构更重要且难被AI取代，产品可助力软件开发。
清华团队预言：90%的人将脱离谋生劳动，「零人公司」时代来了！
清华沈阳团队基于研究与实践提出四大颠覆判断，如AI走向「人机隔离」、未来公司只剩一人或零人等。团队在模型训练、微调等多方面有成果，还探讨行业应用、知识范式颠覆等，描绘AI发展图景。