「智能体安全评估」共找到 4691 篇相关文章
让AI创作不千篇一律，提示词随机插词汇就行
最新研究发现，在AI开写前由人类提供开头或随机插入词汇，写作效果会更多样，AI写作同质化或因“启动条件”问题。研究创建三类同质化评价指标，还发现向系统提示注入随机词汇可提升模型输出多样性。
从 0 到 1 做一款 AI 产品：技术怎么搭、成本如何控制、销售策略怎么定？
独立开发者 Arvid Kahl 分享从零构建 AI 播客产品 Podscan 及「节俭工程」经验，涵盖技术搭建、成本控制与销售策略调整。如用小众云服务降成本，从 PLG 转向 SLG 等，为小团队创业者提供实用借鉴。
反常识！GPT-5和Opus 4同时翻车：AI越强，越不爱用工具？
作者用GPT - 5和Claude Opus 4做进化实验，让其开发工具。两模型表现出色，但面对实际任务却不用自制工具。原因包括模型规模使脚手架工作无价值、RLHF带来工具厌恶、逼近AGI渐近线等。
重磅！OpenAI时隔五年再发布开源模型gpt-oss：开源SOTA，可在16g笔记本运行
谷歌推出Genie 3后，OpenAI宣布发布开源推理模型gpt-oss，有gpt-oss-120b和gpt-oss-20b两个型号，采用混合专家架构和4位量化方案，能快速推理，原生支持128k上下文长度。文章还介绍了模型表现、训练等情况。
谷歌深夜放出 IMO 金牌模型，多项测试力压 Grok 4、OpenAI o3！网友评论两极分化
昨夜谷歌向 Google AI Ultra 订阅用户推 Deep Think 功能，Gemini 2.5 Deep Think 模型获 IMO 金牌。它是多智能体模型，通过并行思维输出答案，在多领域及测试中表现佳，但网友评价不一。
LeCun出手，造出视频世界模型，挑战英伟达COSMOS
训练有效世界模型面临数据、任务难度、算力消耗和评估等难题。Meta研究者提出通用视频世界模型DINO - world，可预测未来帧，在多方面有优势，实验显示其性能显著，能降低对标注数据需求。
最强人才接连被挖，创业大佬离开 OpenAI 后说了实话：7 周硬扛出 Codex，无统一路线、全靠小团队猛冲
近日，OpenAI 研究员 Jason Wei 即将加盟 Meta 新成立的超级智能实验室，另一位研究员 Hyung Won Chung 也将一同加入。此外，曾参与 Codex 开发的创业大佬 Calvin French - Owen 分享在 OpenAI 的经历，揭示其内部生态。
如何将LLM的"思考习惯"迁移到视觉领域？
传统多模态模型处理复杂视觉推理能力不足，OVR团队以Qwen2.5 - VL - 7B为基础构建开源强化学习框架，成果模型OVR在12个基准测试刷新记录，揭示认知行为跨模态迁移三条黄金定律。
AI 编程冲击来袭，程序员怎么办？IDEA研究院张磊：底层系统能力才是护城河
在AICon全球人工智能开发与应用大会上，IDEA研究院张磊接受专访，剖析多模态智能体落地路径，分享平衡研究与产品的见解，还为年轻人在AI浪潮中发展给出建议，指出底层系统能力是关键。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。