「自主性风险」共找到 1406 篇相关文章
AI长身体，直接做实验！自主通用科学家，科研界的Scaling Law来了
本文探讨未来科研范式「自主通用科学家」（AGS），它将AI与机器人技术结合实现科研全流程自动化，有望突破人类科研限制，引发科学范式变革，还介绍了相关架构、优势及面临的挑战和应对策略。
AI 开发时代的“能力暴露与禁止空间”方法论：TPDD 与高层测试闭环
文章指出大模型加速软件开发范式演进，AI 深度介入开发带来新生产路径，但也放大风险。作者提出 TPDD 方法论，通过提前定义测试点与边界条件，平衡能力利用与风险控制，确保系统可控、安全、可持续。
在AI社会抓「内鬼」？上海AI Lab推出首个多智能体极端事件解释框架
2023年起多智能体系统成人类社会数字镜像，但复杂系统会自发涌现极端事件。上海AI Lab等团队推出解释框架，用沙普利值拆解风险，发现极端事件五大演化规律，还能提前防控风险。
刚刚，DeepSeek陈德里与两个AI，合写了一篇论文
DeepSeek研究员陈德里与DeepSeek-V4-Pro、GPT - Image2合写论文《From Copilots to Colleagues: A Survey of Autonomous Research Agents》。文章是兴趣驱动的尝试，分析自主科研智能体，提出自主等级分类、架构模式分析及未解难题。
“分身术”来了！MANA创作者扶持计划带你走进MUMA Island的未来分身实验
文章介绍数字时代“分身术”，它是身份与叙事实验。从概念源流到技术支撑展开阐述，MUMA Island打造“三式分身”创作矩阵，MANA创作者扶持计划重视该项目，有前沿性、可复制性和社会价值，还公布活动信息。
OpenAI突然开源新模型！99.9%的权重是0，新稀疏性方法代替MoE
OpenAI悄悄开源新模型，0.4B参数且99.9%权重为零，是Circuit Sparsity技术的开源实现。该技术通过约束模型内部连接稀疏性，解决传统稠密Transformer黑箱问题，或让MoE模型走上末路，但目前算力成本极高。
本科必学Dijkstra算法被超越！清华段然团队打破图灵奖得主证明的普遍最优性
本科经典算法Dijkstra被清华段然团队超越，新算法运行速度比任何Dijkstra及其改进算法都快，还解决了“排序障碍”问题。该算法改进了图灵奖得主Tarjan的算法，在理论和实际应用中意义重大。
2026 初的大模型，离电影 Her 还有多远？
作者重看电影《Her》后，对比 2026 年初现实 AI 与电影中萨曼莎的能力，从七个维度分析差距。指出功能性上已接近，但存在性层面差距大，还探讨了 AI 发展趋势与存在意义。
阿里 Qwen3.8 正式发布：2.4T 规模，自主编程 16 天搓出一个 Hermes Agent
8月3日，阿里巴巴发布新一代基座大模型Qwen3.8，总参数量2.4万亿，性能居全球第一梯队。其API已上线千问AI平台，还接入“千问办公”。Qwen3.8编程和办公能力强，还将开源，性价比高。
所有人在让Agent更强，YC却投了一家靠Agent翻车赚钱的公司。
YC孵化的新公司Mount给AI Agent卖保险。如今企业大量使用Agent，但翻车规模也在扩大。Agent频繁出事或因引入新型债务，工程手段只能降低风险，剩余风险可被保险覆盖。YC CEO有独特比喻。