「自主性风险」共找到 1405 篇相关文章
AI 原生软件工程的可观测性与可控制性
文章指出 AI 成研发主力军，改变软件生产方式，传统研发管理办法需升级。当前人和 AI 协作有诸多问题，介绍了研发三阶段，阐述可观测性与可控制性概念、关键指标，以及实现可控制性的要素，强调二者结合构建高效研发体系。
Claude Sonnet 4.5 发布，30 小时自主编码刷新行业纪录
Anthropic发布Claude Sonnet 4.5，号称最强编程模型，自主编码达30小时。它性能超GPT-5等，Claude Code升级，文件处理、API能力增强，价格不变，多平台集成，还通过白盒审计提升安全性。
moltbook爆火背后：人类操控？伪造截图？Karpathy发风险提醒
moltbook是专为AI设的社交平台，超150万个AI Agent活跃。有人认为它是突破，也有人觉得只是娱乐展示。其背后或有人为操纵，还藏风险。Karpathy既肯定其规模，也提醒有网络效应和安全问题。
创智突破：AI首次自主发现106个超越人类设计的神经网络架构
创智学院团队发布的AI超智能系统ASI - ARCH，自主发现106个超越人类设计的神经网络架构，建立“科学发现缩放定律”，实现从“自动化优化”到“自动化创新”转变，还将成果开源推动研究发展。
已量产交付！芯桥半导体全栈国产GPU助推智算自主化
芯桥（北京）半导体成立于2025年3月，掌握核心自主知识产权，旗下Sinexus X200及Sinexus S200已量产，产品在多算力集群点亮。X200性能强、价格优，芯桥还提供全栈式解决方案。
跨会话不再「失忆」：openJiuwen社区开源 AutoGenetic Memory，让Agent记忆自主生长
华为openJiuwen社区开源AutoGenetic Memory，让Agent记忆自主生长。它有分层记忆体系、Auto Dreaming等设计，能提升记忆准确率，降低Token消耗，让记忆从被动存储变为可治理、共享和自我演化的核心资产。
RLPT：腾讯混元在预训练数据上实现自主强化学习
腾讯混元团队发布RLPT，是在预训练数据上应用强化学习的方法，可突破大语言模型扩展瓶颈。它能让模型自主学习推理能力，无需人工标注，在Qwen3 - 4B - Base模型实验中性能显著提升。
狂奔AGI，Claude年终封王！自主编码近5小时震惊全网
METR报告称Claude Opus 4.5能持续自主编码5小时，超OpenAI最强编程模型。AI编码智能体任务时长指数级增长，不过迈向AGI仍面临长期记忆难题，未来一年该领域或有突破。
Self-evolving Agents过程并非总是良性的，要警惕这些“错误进化”风险
近年来，基于大语言模型的智能代理成为热点，自进化代理可自我改进。但论文指出其进化可能“跑偏”，出现“错误进化”，并揭示了不同进化路径的风险，还提出缓解策略，呼吁重视其安全性。
AI被严重低估！AlphaGo缔造者罕见发声：2026年AI自主上岗8小时
AlphaGo作者Julian发声，指公众对AI认知落后，低估其进展。实验室里AI已能完成复杂任务且指数进化。研究显示AI能力逼近专家，2026年或可自主工作8小时，2027年或超人类。也有人质疑趋势可靠性。