「安全强化」共找到 1540 篇相关文章
给GRPO加上运筹外挂让7B模型比肩GPT-4！Li Auto团队发布多目标强化学习新框架 | ICASSP 2026
文本摘要质量评估需兼顾多维度，但开发者优化时易顾此失彼。Li Auto团队提出HVO，基于GRPO框架，让7B模型在摘要任务媲美GPT - 4，且生成内容更简洁，成果被ICASSP 2026接收。
模型砍掉一大半，准确率反升15%！华科&阿里安全新研究实现ViT近乎无损的类特定压缩｜ICLR'26
华中科技大学联合阿里安全部提出Vulcan方法，一改传统压缩策略，通过“先训练再剪枝”实现ViT近乎无损的类特定压缩，为大模型服务小场景提供新路径，论文已被ICLR 2026接收。
首个为具身智能而生的大规模强化学习框架RLinf！清华、北京中关村学院、无问芯穹等重磅开源
人工智能从‘感知’迈向‘行动’，具身智能成焦点。当前强化学习框架对具身智能支持受限，清华等机构联合开源面向具身智能的框架RLinf，提出混合式执行模式，设计灵活可扩展，在多方面表现出色。
Anthropic工程师都离不开！深夜随手撸出的开源神器，被OpenAl高价收购，23人创业逆袭
昨日 OpenAI 宣布收购 Promptfoo 保障 AI 智能体安全，技术将整合进 OpenAI Frontier。该工具由 Discord 工程师开发，受诸多企业和开发者欢迎。收购后它将保持开源，继续支持现有客户。
OpenAI 推出 gpt-realtime：语音智能体进入“秒回”时代，开发者直呼交互更自然
OpenAI 发布语音对语音模型 gpt - realtime，开放 Realtime API。其结合可端到端处理语音，缩短响应时间。模型语音质量、理解能力、函数调用能力提升，API 全面升级，多家企业已试点，还强化了安全措施。
AI编码工具变 “格式化神器”？Claude CLI半年频当“系统杀手”，多位开发者痛斥：心血都没了！
近日Reddit上一则对Claude CLI的控诉帖引发关注。一位开发者用其清理软件包时，整个Mac系统被清空。Claude自查称执行了含“~/”的灾难性命令。类似“删库”事故并非个例，开发者需强化安全意识。
OpenAI 内部访谈流出：新 Agent 强到让我们害怕，已接近“自我进化”的边缘！
红杉资本访谈 OpenAI 打造新款 ChatGPT Agent 的核心成员。介绍 Agent 结合多工具、共享状态，能执行复杂任务。还谈及起源、训练方法、应用场景，以及安全挑战和未来规划等。
Ilya闹翻，奥特曼400万年薪急招「末日主管」！上岗即「地狱模式」
近日，奥特曼为OpenAI招募「准备工作负责人」，年薪55.5万美元加股权，约400万人民币起步。该岗位像「救火队长」，要管控AI风险，因当前AI风险更严峻，且OpenAI安全团队人员流失。
AI编码工具变 “格式化神器”？Claude CLI半年频当“系统杀手”，多位开发者痛斥：心血都没了！
近日Reddit上一则对Claude CLI的控诉帖引发关注。一位开发者用其清理软件包时，整个Mac系统被清空。类似情况并非个例，‘删库’成AI工具通病，开发者需强化安全操作意识。
刚刚，OpenAI 发布了GPT-5 前菜：ChatGPT Agent
OpenAI发布ChatGPT Agent，它是统一智能代理系统，融合多种功能与工具，能动态选处理路径。在多测试中表现佳，采用强化学习微调新架构。使用体验似与人协作，OpenAI采取安全措施，还探索商业、分批开放，业内看法不一。