「安全强化」共找到 1543 篇相关文章
硬件创业者必看：深谈影石刘靖康
文章是对影石创始人刘靖康的访谈。他谈到上市后团队未松弛，因影像行业苦且目标远大。还阐述做无人机的原因、产品特点，分析不打价格战的理由，指出无人机关键技术和隐形门槛，最后分享对硬件创业等问题的看法。
EMNLP 2025 Oral｜检索增强 + 两阶段微调：剑桥提出有害内容检测大模型RA-HMD，性能SOTA
多模态有害信息检测是网络内容安全治理的重难点，多模态模型在有害内容检测上有瓶颈。剑桥大学团队提出RA - HMD框架，通过两阶段微调与结构增强，结合检索增强，提升检测性能，被EMNLP 2025接收。
0人工参与实现梯度更新！MIT新框架让AI自动生成微调数据，权重自主升级
MIT提出新强化学习框架SEAL，可让模型生成微调数据和自我更新指令，实现权重更新。无需人工，模型能自动梯度更新。经知识注入和小样本学习实验验证效果，还介绍了其双循环工作机制。
知名机器人专家喊话：投人形机器人初创公司的数十亿美元，正在打水漂
知名机器人专家罗德尼・布鲁克斯质疑特斯拉、Figure等公司技术路线，称让机器人看人类视频学操作是‘空想’。他指出触觉数据无技术积累、安全有隐患，预测成功‘人形’机器人未来将大不同，投资难量产。
北航团队提出新的离线分层扩散框架：基于结构信息原理，实现稳定离线策略学习｜NeurIPS 2025
北航彭浩团队提出SIHD框架，基于结构信息原理，自适应构建多尺度扩散层级，实现稳定离线策略学习。通过构建状态拓扑图、用结构信息增益引导扩散、引入结构熵正则化器，在D4RL测试中表现出色。
刚刚，OpenAI Sora 2重磅登场！首个APP上线，或将成为AI时代新TikTok
凌晨1点，OpenAI推出Sora 2，AI视频迎来「GPT - 3.5时刻」。它物理智能提升、实现音画同步，人物一致性等刷新SOTA。Sora App上线或重塑短视频交互与社区互动，还在安全治理上布下多层防线。
云栖大会阿里掀桌子了！Qwen3-Max、VL、Omini、Agent ... 统统发布！
云栖大会上，阿里云智能首席技术官介绍千问多款新模型发布及一款升级。如万亿参数的Qwen3 - Max，代码和Agent能力强；还有Qwen3 - Coder - Plus、Qwen3 - VL、Qwen3 - Omni、Qwen3 - LiveTranslate等模型各有亮点。
给企业应用注入AI：架构师需关注的3大工程挑战与9种设计模式
文章指出企业常将AI引入现有应用，集成时要考虑系统风险。介绍架构师需关注的3大工程挑战及9种设计模式，含可用性、性能、安全增强相关模式，助企业让AI应用从“能用”变“好用”。
刚刚，OpenAI发长篇论文：大模型幻觉的原因找到了~
OpenAI发论文揭示语言模型出现幻觉的根本原因，即训练和评估过程奖励猜测而非承认不确定性。预训练阶段就埋下幻觉种子，后训练阶段‘考试机制’强化幻觉，还给出改评分规则的解法。
Sensor Tower 25上半年AI应用报告：年轻男性用户仍占主导，垂类应用面临被「颠覆」压力
移动应用数据分析商 Sensor Tower 发布报告《State of AI Apps Report 2025》，分析移动端 AI 市场。指出 2025 上半年全球生成式 AI 应用下载和收入增长，亚洲成下载主力，AI 成应用标配，垂类应用面临挑战。