「安全框架」共找到 2458 篇相关文章
用“因果规划”解决多智能体协作中的任务依赖难题｜港科广&腾讯
港科广和腾讯研究团队提出CausalMACE方法，将因果推理机制引入开放世界多智能体系统。该方法含全局因果任务图，框架分“判断”“规划”“执行”环节，在基准任务中表现出色，已中稿EMNLP 2025 Findings。
从繁杂技巧到极简方案：ROLL团队带来RL4LLM新实践
当前RL4LLM领域发展快但存在标准、结论不一及机制解释不足等问题。阿里巴巴淘天集团和爱橙科技联合高校基于ROLL框架研究，评估关键技术组件，提出简化算法Lite PPO，在多基准上表现佳。
让大模型“跑”在手机里：vivo蓝心端侧部署创新揭秘，性能功耗双优！
在AICon2025上海站，vivo AI研究院工程师章苏迟分享蓝心大模型端侧部署方案。介绍端侧大模型优势及应用场景，阐述内存、性能、功耗等指标优化方法，还提及多业务场景应对策略与安全合规措施。
刚刚，OpenClaw最猛升级！底层架构大换血，全网等了9天
OpenClaw「2026.3.22-beta.1」预览版上线，对插件系统重构，新SDK替代旧API，ClawHub成首选分发渠道；安全防护升级，封堵多个漏洞；模型配置升至GPT - 5.4，接入Anthropic Vertex等；多平台体验和Agent引擎也有优化。
Sora 2刷屏全网：拍《瑞克和莫蒂》、过物理测试，太棒了
OpenAI推出的Sora 2刷屏海外，能完成以往视频生成模型极难实现的任务，在物理准确性、逼真度和可控性上有重大提升。它还能进行二创、模拟电脑操作等。OpenAI发布由Sora 2驱动的社交APP，强调促进创作，保障安全。
扣子开源全家桶，Apache 2.0加持，AI Agent又一次卷到起飞
7月26日，新一代AI Agent开发平台扣子（Coze）宣布开源零代码开发平台（Coze Studio）和调试工具扣子罗盘（Coze Loop）。二者结合已开源的Eino框架，为开发者提供全栈可用、可复用的开发工具，还采用宽松的Apache 2.0协议。
Loss收敛不代表学会：腾讯混元ACL 2026拆解SFT训练中15.3%的“假学会”样本
大模型微调（SFT）是主流LLM落地方案，但大家默认训练完就是学完了。腾讯混元团队发现SFT存在不完全学习现象（ILP），论文完成了定义ILP、找根因、提诊断框架和验证干预等工作。
前Meta大神创业，用强化学习打造PokeeResearch-7B模型，刷新AI深度研究SOTA
Pokee AI发论文介绍70亿参数的PokeeResearch - 7B模型，用基于AI反馈的强化学习和推理框架，在深度研究基准测试中成绩领先。该公司由前Meta大神创立，产品可打通多应用，已获融资并公开测试。
刚刚，OpenAI 发布了GPT-5 前菜：ChatGPT Agent
OpenAI发布ChatGPT Agent，它是统一智能代理系统，融合多种功能与工具，能动态选处理路径。在多测试中表现佳，采用强化学习微调新架构。使用体验似与人协作，OpenAI采取安全措施，还探索商业、分批开放，业内看法不一。
AGI很蠢？AI教父Hinton预警：4.8万亿美元市场已锁死，AI正撕裂全球！
AI教父Hinton在全球数字世界大会警告，全球AI产业膨胀，仅1%研发投入用于安全。他认为AGI是愚蠢术语，真正该关注超级智能。还指出AI有三类风险，像烟草石棉一样，法规或难防危害外流。