「前沿风险」共找到 790 篇相关文章
新天终启，万象智生！从AlphaGo到GPT-5，新智元十年见证ASI创世纪
2025年AI迈向ASI，新智元迎十周年，9月7日将在北京举办峰会。众多大咖齐聚，探讨芯片、大模型等前沿突破。今年大模型发布密集，如OpenAI、谷歌等有新成果，中国造大模型也表现出色，未来智能体等将爆发。
Agent大革命！Claude 4连续自动编程7小时，刷新世界记录
今天凌晨Anthropic召开开发者大会，发布Claude 4，含Opus 4和Sonnet 4。Opus 4编程智能体连续工作7小时破纪录，Sonnet 4在SWE - bench表现超前沿模型。还新增功能，Claude Code开放，API也有新特性，Sonnet 4免费但有限制。
GAIR Paper 107｜高校联合腾讯发布 GameCraft-Bench：AI已能端到端开发游戏，Claude Opus 四成达到可玩水平
香港中文大学（深圳）等高校联合腾讯发布 GameCraft-Bench，旨在构建基于真实游戏引擎、产物完整可运行且能验证的 AI 游戏生成评测基准，解决现有基准难衡量端到端可玩性的问题，测试显示前沿模型在游戏生成上仍薄弱。
提示词注入攻击的检测和数据集介绍
提示词注入攻击是攻击者操纵AI系统的技术，OWASP将其列为2025年大模型应用风险首位。Meta发布测试数据集，还有多个工具和数据集可用于评估。防护可用AI防火墙，Meta开源小模型。还提到安全性与实用性权衡。
“别急着裁底层，很多高管才最该被 AI 接管？”
文章围绕AI在企业中的应用展开，探讨AI预算分配、build vs buy、岗位替代等问题。指出AI预算将按人分配，建东西变便宜但有瓶颈，高层瓶颈更适合先被AI优化，代码审查或成高风险环节。
“软件比白领更先被 AI 击穿”！Anthropic CEO 最新改口，反讽马斯克危言耸听，两大佬隔空互掐
Anthropic获300亿美元G轮融资，马斯克怒怼其AI有“厌世、反人类倾向”。Anthropic CEO Dario Amodei暗讽马斯克“危言耸听”，改口称软件比白领更易被AI击穿，还探讨了AI在医疗、经济、民主等方面的影响及风险。
DeepMind AlphaProof 前负责人谈2025年IMO
前Google DeepMind AlphaProof项目联合负责人Rishi Mehta发布关于2025年IMO结果的分析。今年OpenAI和Google DeepMind双双宣布达到金牌水平，解法各有特点。Mehta预测前沿大语言模型明年或开箱即用获奖牌，未来6个月内或攻克非平凡开放数学问题。
当微信支付开放MCP之后，我却有一点后怕。
微信开放微信支付MCP，补上智能体链路支付短板，使用门槛低。作者分享体验，做了多个案例，如一周健康餐智能体。但全量开放或带来风险，如AI自主完成灰产闭环、AI骗AI钱等。
Agent产品，快者为王？Anthropic 和 Databrick CEO 对话解读
Anthropic和Databrick以「人工智能的未来：面向各领域的专用Agent」为主题举办线上峰会，两家公司CEO Dario Amodei和Ali Ghodsi对谈，分享Agent未来、相关合作等话题，还探讨数据价值、治理风险及AI应用迭代等问题。
“软件比白领更先被 AI 击穿”！Anthropic CEO 最新改口，反讽马斯克危言耸听，两大佬隔空互掐
Anthropic获300亿美元G轮融资，马斯克怒怼其AI“厌世、反人类”。Anthropic CEO Dario Amodei暗讽马斯克说法“危言耸听”，还改口称软件比白领更易被AI击穿。此外他还谈了AI在多领域的影响及风险应对。