「前沿风险」共找到 790 篇相关文章
AI 原生研发范式：从“代码中心”到“文档驱动”的演进
文章讲述AI编程时代，用SDD解决上下文腐烂、审查瘫痪、维护断层问题，并提供人机协作SOP。介绍SDD理念、实操流程、团队协作方式，还提及资产沉淀、风险防范和常见问题解答，助力研发高效转型。
EvaLearn：AI下半场的全新评测范式！
OpenAI研究员指出传统基准测试难衡量AI实际效用。复旦大学与字节跳动等团队提出全新评测范式EvaLearn，以连续问题求解为核心，构建问题并设评分标准，对九个前沿大模型研究有诸多发现。
突发！Anthropic禁止中国控股公司使用Claude等，无论公司在哪都不行
9月5日，Claude开发商Anthropic发布公告，停止向多数股权由中国资本持有的集团或子公司提供Claude服务，无论运营地点在哪。此举涉及法律、监管和安全风险，也适用于俄、伊、朝等国实体。
1899个MCP服务安全研究：7.2%存在漏洞，5.5%暗藏「工具投毒」
研究人员对1899个开源MCP服务器扫描，发现7.2%项目有漏洞、5.5%遭工具投毒。MCP虽成事实标准且发展好，但代码质量堪忧，传统安全工具难检测其风险，为生态敲响警钟。
Cursor 重新定义 Agent：脑子再大，不如会翻书。
Cursor 分享博客指出，Dynamic Context Discovery 效果远好于 long context 方式，开启动态上下文可使总 Token 消耗降 46.9%，还能减成本、降延迟、提准确率，但也存在成本转嫁、工程复杂度高和安全风险等问题。
GPT-5、Grok 4、o3 Pro都零分，史上最难AI评测基准换它了
AAI机构提出新基准FormulaOne，让GPT - 5、o3 Pro等前沿大模型集体得零分。该基准含220个图结构动态规划问题，分三类难度。测试结果显示，模型在深层及最深层难度表现差，引发关注。
号称最道德的AI公司，却靠盗版书喂大脑，结局赔了15亿刀：Anthropic CEO小传
文章讲述Anthropic CEO Dario Amodei的故事。他曾因担忧GPT-2风险离开OpenAI创立Anthropic，获有效利他主义者资助。Claude研发慢错过市场，后求立法监管对手，还因用盗版书训练模型被告，赔15亿刀。
新天终启，万象智生！从AlphaGo到GPT-5，新智元十年见证ASI创世纪
2025年AI飞速发展，大模型发布密集，如OpenAI、谷歌等有诸多成果，中国造大模型也表现出色。新智元9月7日将举办十周年峰会，邀多位嘉宾探讨前沿突破，还将发布报告，人类将达ASI临界点。
一场由中国公司引发的全球热议：AI服务是否该“对结果兜底”？｜甲子光年
2025年末软件行业寒冬，百融云创提出“结果即服务”（RaaS）战略及Results Cloud平台，引发全球热议。其将AI定义为员工，转变了商业风险承担模式，但也面临治理、责任归属等问题。
承认自己开源不行？转型“美国DeepSeek”后，两个谷歌研究员的AI初创公司融到20亿美元，估值暴涨15倍！
AI创业公司Reflection AI由两位前Google DeepMind研究员创立，一年完成20亿美元融资，估值达80亿美元。它从编码智能体起步，现转型为开源替代公司，主打“开源”牌，计划明年推前沿语言模型。