「安全设计模式」共找到 2894 篇相关文章
The Batch: 881 | 一千万 token 的输入上下文
Google的Ali Behrouz等人设计“记忆模块”集成到类transformer架构ATLAS，能处理一千万token输入。它替代注意力层，训练后在长上下文任务中表现佳，但小模型，大规模表现未知。
马斯克xAI联创突然离职了
马斯克xAI联创Igor Babuschkin离职，他将创办风投公司支持AI安全研究。他物理学出身，曾就职DeepMind、OpenAI。xAI同事不舍，此前法律主管也已离职，Grok还曾引发争议。
我给滴滴AI提了个建议，结果他们做得超出了我的想象
作者因母亲用打车软件费劲，基于地图MCP构想长辈出行模式。滴滴AI看到后联系作者，三个月后拿出成果，不仅实现作者设想，还完善专车场景、做到全场景覆盖，体验很棒。
GPT-6发布，OpenAI说AGI时代来了
北京时间9月4日凌晨，OpenAI发布GPT - 6 Astra，虽发布过程狼狈，但该模型在多项评测中表现出色，如数学评测、电脑操控等，但编程类任务未全面领先，且网络安全方面部分功能被限制。
搜索智能体也需要「操作系统」：SearchOS 开源多智能体协作框架
人大和蚂蚁的 SearchOS 研究，给出搜索智能体在长程任务中问题的答案。它借鉴数据库理念，做了多项核心设计，在开放信息检索基准评测领先，已提供多种使用方式，值得长程调研尝试。
桌面 Agent 的下一步：不是会操作，而是会调度工具
复旦大学和通义实验室提出 ToolCUA，让模型在 GUI 与工具调用间编排路径。它从已有 GUI 轨迹合成训练数据，设计奖励机制，在 OSWorld - MCP 评测中效率与准确率大幅提升，为 CUA 发展提供方向。
刚刚，阿里官方认领神秘「欢乐马」，来自ATH郑波团队
周二晚间，AI评测平台Artificial Analysis上，‘欢乐马’空降榜首引热议。现阿里官方认领，它是ATH郑波团队模型，正内测，近期将开放API。其在多项排行榜表现出色，支持四种视频生成模式。
大模型收入暴涨1076%，港股AGI第一股首份年报：一年狂揽12亿，属实把商业化玩明白了
港股AGI第一股云知声披露首份年报，全年营收12亿，大模型业务收入暴涨1076%成核心增长引擎。其靠“强基模、深应用”战略实现业绩增长，还计划拓展MaaS模式，探索多元“第二曲线”。
OpenAI这招太狠！AI从「躲猫猫」到「自爆黑料」，主打一个坦白
随着AI进入高风险场景，透明、安全变得重要。OpenAI提出「忏悔机制」，让模型回答后产出自我坦白报告，不影响主回答评分，只考察诚实，能提升不良行为可见性，目前仍处概念验证阶段。
阿里又上新！开源 7B 文生图模型，专治图中文字，效果媲美 20B+ 大模型！
阿里 AIDC - AI 团队开源 7B 参数文生图模型 Ovis - Image，主打图中文字生成。它文本渲染能力强，在权威榜单成绩好，媲美 20B + 大模型，官方还提供使用方法，是设计类刚需模型。