「用户安全」共找到 2221 篇相关文章
xAI联合创始人出走：连马斯克都留不住顶级人才
伊戈尔·巴布什金这位效力过DeepMind和OpenAI的AI老将，助马斯克建成孟菲斯超算集群后离开xAI，创办风投公司“Babuschkin Ventures”，瞄准AI安全赛道，揭示AI行业顶尖人才的追求。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
The Batch: 862 | OpenAI 的重新"开放"
OpenAI 发布自 2019 年 GPT - 2 以来首个开源权重模型 gpt - oss 系列，含 gpt - oss - 120b 和 gpt - oss - 20b，为智能体应用设计，免费使用修改。介绍其输入输出、架构等，还对比了性能表现。
又是浙大校友！AI眼镜“隔空取物”，戴上即可随心选中现实世界任意物体
混合现实重塑人机交互边界，但传统XR设备选物易出错。研究团队提出Reality Proxy，即现实物体的抽象数字表示，将交互目标转移到代理上，便于用户摆脱限制选物，还支持多种交互功能。
Gamma 创始人：小团队创业是共识，怎么做好才是最大的问题
AI创企Gamma 30人服务近5000万用户，ARR超5000万美元且持续盈利。创始人Grant Lee分享创业心得，包括小团队组织模式、重视通才、可持续业务理念、组织创新及应对PMF等问题的思路。
普通人也能用得上的 Context Engineering 技巧
现在讨论Context Engineering大多关注高级AI Agent，对普通用户实用性不强。本文总结普通人用AI时的上下文工程技巧，如用更少、更准确的上下文控制输出，从精简和准确两方面展开阐述。
别听模型厂商的，Prompt 不是功能，是 bug
风险投资Conviction创始人Sarah Guo分享2025年AI创业观察，指出从用户体验看，prompt是缺陷非功能；传统低技术行业正快速拥抱AI；还分析了AI能力进展、应用案例及投资机会等。
谷歌深夜放出 IMO 金牌模型，多项测试力压 Grok 4、OpenAI o3！网友评论两极分化
8月1日晚谷歌向Ultra订阅用户推Deep Think功能，Gemini 2.5 Deep Think模型在IMO夺冠。它是多智能体模型，能并行处理问题。多项测试中表现优于Grok 4、o3，不过网友评价不一。
行业新突破：行为基础模型可实现高效的人形机器人全身控制
该综述聚焦行为基础模型（BFM）在人形机器人全身控制中的应用，梳理进展并分类算法，介绍应用与限制，还探讨未来研究机会与风险，有望引导该领域研究者和从业者。
别卷Agent了！这两款“AI算姻缘”App，靠收割美国人的孤独，狂赚200万美金！
当大厂为AGI、Agent烧钱时，“AI算姻缘”App Starla和Astra 20天狂赚超200万美金。它们以“GPT对话+AI生图+星盘概念”抓住人们对“灵魂伴侣”的渴望，靠低技术策略获高收益。