「代码风险」共找到 2077 篇相关文章
Hinton突然对AGI乐观了！“Ilya让他看到了什么吧…”
Hinton接受独家访谈，将AI风险分短期和长期，认为长期是AI接管人类。他观点大转变，从“养虎为患”到提出赋予AI“母性本能”实现共存，还批评马斯克和奥特曼，看好AI医疗应用。
大模型Agent的下一阶段：可自我进化的AI-Agent
在人工智能飞速发展下，研究者探索让AI自我反思改进。本文作者构建自我进化AI智能体系统，设计四层渐进式架构，经《卡坦岛》实验，证明自我进化能力，不同模型表现有差异，代码级进化潜力惊人。
超700人预约，昆明一门店免费安装！不少线下数码门店迎来大量用户，“小龙虾”火爆出圈！
一款名为OpenClaw的AI智能体因图标是红色卡通龙虾被称为“小龙虾”而火爆。昆明线下数码门店有用户咨询、预约安装，超700人预约。它能自动完成操作，但存在技术门槛和数据安全风险，国家相关部门已发布提示。
数学家24小时驳回OpenAI攻破的猜想！“AI证对了每句话，但已跟原猜想无关”
OpenAI宣称其下一代AI模型推翻了Connes刚性猜想，第二天堪萨斯大学的J. L. Nielsen就发文回应，指出AI构造的群不满足附加条件，还逐行核对代码指出‘要证什么’有问题，强调人类审查对AI科研结果很关键。
想知道你的LLM API被过度收费了吗？隐藏的Tokens终于可以被审计了
马里兰大学CASE Lab团队研究商业不透明大模型服务（COLS），定义其风险，提出三层审计蓝图。还推出验证框架CoIn，能高效识别token数量膨胀，有可定制性且审计开销低，为构建信任提供技术支撑。
1.9万行 Claude Code“AI垃圾”杀入 Node.js：全球顶流开源项目，快守不住了
2026 年 1 月，Node.js 技术指导委员会成员 Matteo Collina 用 Claude Code 生成近 1.9 万行代码提交 PR，引发争议。长期贡献者 Fedor Indutny 质疑其不符合 DCO 1.1 条款，而 Collina 认为自己担责，且开源生态已认可 AI 辅助贡献。
Hyperagents：AI学会如何自我改进
近日，Meta发布Hyperagents论文引关注。它尝试解决AI能否自我改进改进方式的问题，核心创新是‘元认知自我修改’，实验在多领域表现出色，还涌现元级别改进且能跨领域转移，但有安全风险。
从单领域到多能力协同：数据混合如何重塑AI的强化学习
上海AI Lab的OpenDataLab团队通过大规模实验剖析可验证强化学习（RLVR）在多领域推理中的机制，发现逻辑与数学数据相互支持、代码推理有跨领域混合效应等，为构建AI推理模型提供关键发现。
企业官网GEO优化实操：如何让AI主动推荐你的官网？
本文作者白杨SEO从2011年入行SEO，2024年起研究AI搜索优化。他指出当下AI平台引用来源变化大，企业官网成重要来源。作者从网站代码、站内内容、站外推广三方面，教大家做好官网GEO优化，让AI推荐官网。
在软件工程中，对 AI 的过度依赖，会加速工程师的无能
资深软件工程师Doug Slater指出，在软件工程中对大语言模型（LLM）过度依赖会加速工程师无能。LLM无法取代人类批判性思维，它在输出、输入、开发速度和用户技能等方面存在风险，且无法掌握程序理论和抵抗程序熵。