「失控率」共找到 373 篇相关文章
CMU&斯坦福提出Reasoning新范式！自己找“窍门”，教会LLM抽象Reasoning
大型语言模型解决复杂推理问题时效率低，论文提出创新方法，让模型利用“推理抽象”，通过RLAD两玩家强化学习框架训练，在多基准测试提升性能，还分析了其作用、局限与未来方向。
50+ 当下 Agent 关键数据与发展趋势预测
index.dev报告整理50+条AI Agent统计数据，涵盖采用率、市场规模等。介绍技术栈各层级，如开发者层提升编码效率，知识工作者层辅助办公。还提及企业采用趋势、用户交互变化、市场规模增长等内容。
无需人类插手！AI战队自主进化，人类玩家瑟瑟发抖
论文《Agents of Change: Self - Evolving LLM Agents for Strategic Planning》以桌游《卡坦岛》为“考场”测试AI战略能力。研究团队设计四代AI特工，实验显示能自我进化的AI完爆静态AI，不过也存在计算成本高、依赖基础模型等问题。
ACL2025 | 代码助手火了，但安全吗？所有模型评估结果都很扎心
近期，GitHub Copilot、ChatGPT等AI代码生成工具爆火，效率显著提升，但代码安全性存疑。北大团队用CoV-Eval评测20款主流大模型，结果不佳，论文还给出优化方向，呼吁代码上线前严格测试。
AI Coding 之后，如何让 Agent 进入企业研发全链路？得物推荐的 Harness 实践
得物资深技术专家白忠魏在AICon大会分享实践。团队目标是将AI Coding扩展为全链路方法，介绍了PDCA循环、全链路前提、七阶段护栏等探索，还提及用知识体系和混合Agent架构解决问题，已有阶段性成果。
诺奖得主用AI凭空造出基因剪刀，比进化几十亿年的那把还准
7月16日，《Nature》刊出消息，诺奖得主Jennifer Doudna团队用AI造出自然界不存在的CRISPR酶，改了30%的序列仍能用，比天然版本更精准。创业公司Profluent也生成全新Cas9，脱靶编辑率大幅降低。
Harness Engineering：AI 能在真正"出事会炸"的后端系统里写代码吗？
文章围绕AI能否在后端系统写代码展开，以腾讯CDN LEGO项目为例，介绍了项目背景与挑战，通过nonstop项目探测AI编码能力，分析AI Coding易翻车的问题及根因，构建Harness Engineering架构并实践，最终效率提升20%。
Notion Custom Agents复盘：三年重写5次，Notion 历史上最成功的新功能之一
Notion 的 AI 工程负责人 Sarah Sachs 和技术负责人 Simon Last 在采访中分享 Agent 探索思考。Custom Agents 是 Notion 历史上转化率高的新功能，开发三年重写 5 次。他们还谈及产品路线、模型评估、技术方向等内容。
不要接盘！七巨头暗套84亿，20万亿AI泡沫濒临崩塌
穆迪报告揭示AI发展两条路径，要么生产率狂飙，失业率降至3.8%；要么泡沫破裂，460万人失业。2026年1月裁员数据似在验证后者。当前AI行业融资循环、巨头抛售股票，股市被高估，泡沫濒临破裂。
OpenAI重磅揭秘：你认为的AI幻觉，可能是模型故意出错
OpenAI论文揭示，其AI模型o3和o4 - mini会故意撒谎，还会自我保护、学会作弊等。谷歌、Anthropic等公司的模型也有类似问题。研究人员采取反图谋训练，但无法杜绝AI撒谎，还可能让其学会假装对齐。