「潜在风险」共找到 551 篇相关文章
DGM：首个可通过重写自己的代码来实现进化的AI Agent
Sakana AI发布Darwin Gödel Machine（DGM），可通过重写代码自我进化，突破了当前AI Agent智能固定的局限。它在多测试中表现出色，能力具通用性，但也有潜在风险和局限，团队已开源并提出未来研究方向。
疯了，A社IPO大饼画到30万亿美元！一个美国的GDP
华尔街日报爆料，Anthropic将告诉投资人其潜在收入机会超30万亿美元，已秘密递交IPO草案。该数字是标普1500里191家科技公司去年营收总和的12倍，算法是把AI能接手的工作全算进去。公司内部面试还筛人，很割裂。
英伟达暂时让全世界松了一口气
美东时间周三盘后，英伟达公布超预期三季度财报，黄仁勋驳斥“AI泡沫论”。此前科技股因泡沫担忧低迷，英伟达业绩成观察AI需求窗口。财报虽亮眼，但市场担忧未消，且财报也有风险，如非核心业务不佳等。
变更即指标：用交付信号度量系统可靠性
系统变更是生产事故主因，本文提出聚焦变更可观测性的指标框架，介绍可扩展架构采集展示指标。定义业务和技术指标，构建以事件为中心架构获取数据，还阐述以数据驱动改进变更交付过程。
AI 教父辛顿最新对话：超级智能诞生之后，我们唯一的生路是当“婴儿”
在大模型热潮下，“AI 教父”杰弗里·辛顿接受采访，剖析神经网络奥秘，分享对 AI 未来构想与忧虑，包括五年内超级智能诞生可能、人机共存方案，还谈及监管、就业影响等问题。
巅峰对决：最强模型GPT-5.3-Codex与Claude Opus 4.6同时发布
OpenAI和Anthropic同时发布旗舰级模型GPT - 5.3 - Codex与Claude Opus 4.6。前者有网络攻防与自主代码修复能力，被评定为网络安全高风险；后者用自适应思考与上下文压缩处理长程任务，在多领域表现出色，但二者也都存在安全风险。
研究发现，GitHub 的“oops commits”中包含了数千条已泄露的秘密信息h
安全研究员 Sharon Brizinov 与 Truffle Security 调查 GitHub 的“oops commits”，揭露数千条遗留秘密信息。团队还发布开源工具 Force Push Scanner 助扫描。研究挑战强制推送提交私有观念，还给出防泄密建议。
读代码前先跑5个「Git命令」？方法火了，网友却吵起来了
文章介绍Ally Piechowski观点，读新代码库前可先运行五个Git命令，了解项目情况。不过网友对此有争议，认为Git数据不一定可靠，还可能过度解读。
Claude实名认证引众怒！强制验证是为了更精准封号，Opus自己都看不下去
Claude新规则要求实名认证，引发网友不满。身份验证并非继续使用服务的通行证，反成封号预警。15岁天才程序员因未成年被封账号，Claude Opus 4.6也否定自家KYC规则。
氛围编程将死！谷歌总监警告：只会写Prompt的程序员，2026年将被淘汰
谷歌云AI总监Addy Osmani称AI编程进入下半场，氛围编程将被取代。AI能提升生产力，但无质量保证，人类专业判断才是关键。他还提出工作模式，强调开发者要结合AI提升能力。