搜索：防控体系 - AI Reading Hub

「防控体系」共找到 806 篇相关文章

在失败中进化？UIUC联合斯坦福、AMD实现智能体「从错误中成长」

伊利诺伊大学厄巴纳 - 香槟分校等团队发布论文，剖析LLM智能体失败机制，提出可自我修复的创新框架AgentDebug。研究指出智能体常见失败类型，构建错误分析体系、数据集，实验显示该框架效果显著，为AI可靠性提供方案。

Shopify分享构建生产级AI助手Sidekick的万字经验。构建中遇工具拓展难题，用JIT指令解决；评估是大挑战，建立严谨体系，虽有提升但效果仍有波动，模型还会钻空子，最后强调单Agent系统也强大。

近年来，大型语言模型虽能力强但有局限，研究者构建基于LLM的智能体系统。此综述论文提出系统、统一分类法梳理智能体推理框架，建立统一描述语言和通用算法，分析其在不同场景表现与评估方法。

消费电子市场未获AI利润，先遭冲击。因AI基建对存储需求大，内存、闪存颗粒及机械硬盘纷纷涨价。机械硬盘出货量十年来首增，价格回升，厂商借此控产保利润，消费级产品也受影响。

随着基于LLM的多智能体系统崛起，其安全隐患凸显。中国科学技术大学等机构提出G - Safeguard安全防护框架，它基于图神经网络，通过构建多智能体话语图等方式，能有效抑制恶意信息传播，有强大防御和泛化能力。

本文围绕2026年AI行业发展展开，指出竞争基本单位正从模型变为体系，AGI成组织目标，同时介绍了算力、数据等核心要素变化；还提及Agent与模型关系及编程新范式，最后宣传了2026CSDI峰会。

近日，寻明生科宣布完成1亿美元B轮融资，累计近2亿美元。资金将投入生物基座模型研发与规模化训练，升级Lab - in - the - Loop体系。该公司构建闭环AI原生基础设施，其模型能力获验证，商业变现多元。

超70万蔚来和乐道车主收到最新版世界模型推送更新。蔚来用一套代码覆盖多品牌、多平台、多芯片、多传感器车型，其技术体系复杂，从2020年起搭建，六年未改底层逻辑，如今效果显现。

本文聚焦基于模型的离线强化学习，指出RAMBO算法存在保守性难控和训练不稳问题。为此提出ROMI方法，引入鲁棒价值感知框架与隐式可微自适应加权机制，在多基准任务上超越基线算法。

随着AIGC转向产业落地，监管对生成内容管控成趋势。全国首个AI生成内容合规团体标准《人工智能生成内容合规管理指南》应运而生，还公开征集起草单位和专家，助力企业解决合规难题。