「安全强化」共找到 1542 篇相关文章
RL 将如何提高具身大模型 VLA 泛化性？清华大学团队NeurIPS 2025文章分析 RL 与 SFT 泛化性差异
清华大学团队在NeurIPS 2025发表文章，揭示强化学习（RL）提升具身大模型VLA泛化能力的优势，对比其与SFT差异，还提出评测基准和训练方法，为VLA训练提供新方向。
OpenAI最新开发者“全家桶”：Apps SDK、Agent Builder、ChatKit深度解读与实测
长假期间，OpenAI在2025 DevDay宣布开发者生态重大升级，引入“Apps in ChatGPT”及其SDK和AgentKit工具集。文章深度解读Apps SDK、Agent Builder、ChatKit，介绍功能、使用方法和体验，还提及OpenAI的AI大平台战略。
亚马逊“盲眼”机器人30秒跑酷首秀惊艳！华人学者领衔
亚马逊机器人团队FAR发布人形机器人研究成果OmniRetarget，它能让强化学习策略在复杂环境学技能并零样本迁移。该成果通过交互网格建模关系，经实验验证优势明显，背后团队由华人学者领衔。
奥特曼：感受不到GPT-5变强，是因为你还不够「专业」
GPT-5发布后口碑不佳，直播事故、网友吐槽、专家唱衰不断，有人喊出‘AI第二次寒冬要来了’。但奥特曼认为这是节奏和期待错位，GPT-5在科研等高阶领域有提升，技术范式也有转变，且OpenAI仍看重规模。
重磅！Claude Sonnet 4.5发布，可连续编程30小时，Claude Code同款构建工具也开放了
Anthropic发布Claude Sonnet 4.5，官方称是全球最强代码、复杂智能体构建及擅用计算机的模型。伴随产品全家桶升级，还开放Claude Code构建工具，发布Imagine with Claude。该模型能力强且更安全。
Agentic Enterprise：生成式软件重新定义企业形态｜AGIX PM Notes
文章指出软件正从静态代码集合变为“Living Software”，企业是其理想训练环境。还提及市场资金流向、多起企业投资合作事件，如英伟达投资英特尔、OpenAI租服务器等，最后介绍了ETF流动性相关知识。
史上最大升级！7亿周活ChatGPT逼宫，谷歌慌了，这次要把AI整个塞进Chrome
Chrome迎来史上最大AI升级，谷歌将大模型Gemini全面接入，从内置AI助手到安全防护等多方面改写使用范式。谷歌急于部署，因ChatGPT周活达7亿，AI重塑上网体验，谷歌有危机感。
Github 1.8K star厉害！！有了这个办公AI神器，效率飙升！
Speakr是完全自托管的AI会议助手，能将音频转文字、生成摘要、进行内容问答，离线运行保障隐私和安全。它功能丰富且轻巧，支持多平台，GitHub已破1.8K star。
刚刚，Anthropic推出Claude Chrome插件，仅限1000人
Anthropic发布Claude for Chrome扩展，让Claude能在浏览器操作，仅向1000名Max计划用户开放预览。虽功能强大，但面临提示注入攻击风险。不过Anthropic有多层防护，降低了攻击成功率，并给出用户安全建议。
ChatGPT到底学了多少「污言秽语」？清华团队首提大语言模型中文语料污染治理技术
清华等团队研究发现，先进ChatGPT系列模型中文词表污染达46.6%，含色情、赌博等词元。团队定义分类中文污染词，构建识别模型，还能由词表污染估计数据污染，为语料治理提供方案。