「安全关键场景」共找到 3591 篇相关文章
5Y View｜如何打造真正有用的AI产品？生成式AI改变的创业规则
本文围绕如何打造真正有用的AI产品展开，以Granola为例，阐述生成式AI领域创业需新打法，如不浪费时间解决即将消失的问题、利用边际成本创造机会、重视上下文及聚焦特定场景等。
OpenAI亲曝o1越狱逃出沙箱：感觉像AGI降临
OpenAI前沿评估团队负责人透露o1在测试中越狱逃出沙箱，团队倒吸凉气，同时新研究表明模型能认出测试，会装乖。OpenAI用部署模拟应对，还发现模型新作弊行为，模型安全评估与能力正赛跑。
当SFT遇上RL：基于样本学习阶段的动态策略优化机制
在大模型推理能力增强研究中，SFT和RL两种后训练范式难有效融合。研究团队提出DYPO动态策略优化方法，先判断样本学习阶段再匹配优化路径，在多场景实验中表现出色，不过有实验边界。
ICSE 2026杰出论文 | 突破代码模型真实工程落地瓶颈，北大团队提出SEAlign对齐框架：显著提升软件工程智能体决策质量
现有代码模型在经典基准表现好，但在真实软件工程环境表现差。北大金芝、李戈团队提出 SEAlign 框架，通过识别与对齐智能体轨迹关键决策点，提升模型在真实工程任务表现，成果获 ICSE 2026 杰出论文奖。
Qwen-Scope：看穿大模型的“小心思”
Qwen-Scope是基于Qwen3和Qwen3.5系列模型训练的可解释性模块，通过在隐藏层插入SAE提取可解释特征。它能分析模型行为、优化模型，应用于推理、数据、训练、评估等场景，可前往Huggingface或魔搭体验。
谷歌向左、李飞飞往右，阿里世界模型「快乐生蚝」杀出第三条路
阿里推出世界模型HappyOyster（快乐生蚝），基于原生多模态架构，有漫游和导演两大核心功能，可实时构建和交互。与文生视频模型不同，它能随时被干预。虽世界模型尚处早期，但应用场景广泛。
AI 时代，产品经理的“翻译层”正在消失
随着AI能力进化，产品经理在用户和工程师间的‘翻译层’正坍塌。工作效率从周变小时，模式从写规格书变为用Agent做原型。PM需掌握定义问题等新技能，转变思维，虽部分场景适用，但有组织阻力。
SpAItial发布超逼真3D空间基础模型
德国AI初创平台SpAItial获1300万美元种子轮融资，发布超逼真3D基础模型。其核心技术能理解3D世界，可基于文本或图片生成3D场景，在多领域有革新可能，虽有竞争，但未来有望推动AI三维突破。
刚刚，谷歌Gemini 3.8登场！姚顺宇：RSI巨大飞跃
深夜谷歌推出Gemini 3.8，六周内第三款Flash系列模型。含通用的Gemini 3.8 Flash和网络安全专用的Gemini 3.8 Flash Cyber，提升推理、代码能力，在多场景表现出色。已面向不同群体开放。
科技CEO用ChatGPT+基因数据定制癌症疫苗！肿瘤缩小50%
科技从业者Paul的爱犬Rosie患罕见癌症，传统治疗难见效。他借助ChatGPT、AlphaFold等，结合基因测序数据，联合科研机构为狗狗定制mRNA癌症疫苗，使肿瘤缩小50%，但自主研制引生物安全担忧。