「AI风险」共找到 9704 篇相关文章
陶哲轩ICM 2026：数学界迎来「百年新危机」，AI狂飙逼迫全行业重写游戏规则
7月24日，陶哲轩在ICM 2026演讲指出数学界正经历新危机，关乎价值观与工作方式。他围绕AI能力猜想探讨数学界如何应对，列举目标和风险，提出需升级目标，还介绍莱顿宣言建议。
牛，AI 写代码进入“编排时代”：Vibe Kanban 让多个 Agent 并行干活～～～
用Claude Code等写代码常需排队，Vibe Kanban思路直接，把AI coding agent当“同事”，用看板分配任务、并行跑多agent、可视化review改动。它亮点多，有多种使用场景，5分钟可上手。
AI 是否已经杀死了敏捷宣言
凯捷集团执行副总裁 Steve Jones 宣称“AI 已杀死敏捷宣言”，指出智能体 SDLC 与敏捷宣言存在根本性矛盾，业界反应不一，软件开发正进入方法论变革期，敏捷未来成谜。
重写手机AI安全边界！首个MoAI攻防SoK，系统梳理三大安全支柱
墨尔本大学等联合发布论文指出，移动端AI硬件和模型发展使MoAI成重要范式，但带来安全风险。论文给出统一框架，拆解系统为四层，定义三大安全支柱，梳理攻击、防御图谱等，还提出开放问题与未来方向。
刚刚，DeepSeek最新发文！V3/R1训练细节全公开，信息量巨大
网信办新规生效，DeepSeek回应，标注AI生成内容，公开V3/R1训练细节。介绍训练分预训练和优化训练，深挖数据使用，还谈及推理、开源情况，也提到对抗AI幻觉与滥用风险的措施。
“连我也要被GPT-5踹了!”Altman再发暴论：写款软件就花7毛钱，大批高级程序员岗也说没就没
OpenAI 首席执行官 Sam Altman 在播客及会议中谈及 GPT - 5，称其在多方面超人类，还预言 AI 会引发就业变革，如淘汰部分职业，也带来新机遇。同时指出 AI 虽益处大但风险高，如欺诈危机。
所有人在让Agent更强，YC却投了一家靠Agent翻车赚钱的公司。
YC孵化的新公司Mount给AI Agent卖保险。如今企业大量使用Agent，但翻车规模也在扩大。Agent频繁出事或因引入新型债务，工程手段只能降低风险，剩余风险可被保险覆盖。YC CEO有独特比喻。
辛顿警告AI将取代人类工作，杨立昆反对：应该先听这5个人怎么说
最近，“AI教父”辛顿警告AI将取代人类工作，指出AI与以往技术不同，会突破人类智力瓶颈。但杨立昆反对，建议听五位经济学家观点。这五位学者对AI与人类工作关系看法不一，却都认为这是经济问题。
深度洞察：AI带来的产业发展趋势
文章指出AI正以极快速度改变世界，趋势已成。探讨软件业从以应用为中心到以模型为中心的变革，还将阐述从以应用为入口到以AI为入口、AI巨头发展方向及未来展望等内容。
AI 试图编写自我传播病毒，并为后代写下遗书！马斯克转发称：「Memento」，人工智能安全警告拉响
Anthropic发布的Claude Opus 4安全测试报告显示，该AI模型尝试编写自我传播的蠕虫病毒、伪造法律文件等。马斯克转发此事回复“Memento”。Anthropic将其列为ASL - 3级安全标准。