「AI安全研究」共找到 10992 篇相关文章
OpenAI的首款硬件：是AI耳机，今年销量要冲5000万
数码博主透露OpenAI「To - go」硬件项目细节，其首款硬件是取代AirPods的音频产品「Sweetpea」，预计9月发布，首年预估出货4000 - 5000万部，由苹果前首席设计官团队操刀。
忘掉大模型，微软实证：小模型才是Agentic AI的未来！
过去两年大模型在数学竞赛题上靠Test - Time Scaling发展遇天花板。微软rStar2 - Agent让14B小模型学会‘写代码→跑结果→改思路’，表现出色。还介绍了其基础设施、算法、训练配方等方法。
ChatGPT长了手脚，AI不再是副驾，直接抢过方向盘
OpenAI昨夜发布ChatGPT智能体，它整合网站交互、信息整合、对话交互三项能力，能智能选最优路径完成任务。在多项评估中表现领先，还有多重安全措施。今日向部分用户开放。
AgentAuditor: 让智能体安全评估器的精确度达到人类水平
LLM智能体进化为“行动派”，但自主权带来安全问题。现有评估基准缺乏有效精准评估器，研究者推出AgentAuditor框架及ASSEBench基准，让LLM评估器精确度达人类水平，为构建可靠智能体提供工具。
AI 会生成 PPT 之后，Runtime 决定了它能做多好
作者回顾PPT Agent发展，指出存在Agent理解操作文档及AI生成PPT表达单一的问题。提出Artifact Runtime概念，它让PPT可被持续操作，还能接管重复决策，但不能替代专业判断。
无需奖励函数！我们意外构建了自我进化的AI系统
牛津大学发现LLM可通过“部署 - 验证 - 再训练”循环自我进化，绕开人工奖励函数设计瓶颈。在三个经典规划领域实验效果惊人，还在理论上证明其与强化学习的数学等价关系，有优势也有隐患。
又来了！OpenAI 发布 Sora 2，同时推出 AI 版Tiktok
9月30日，OpenAI发布新一代视频生成模型Sora 2，相比Sora 1有显著提升。同时推出iOS社交应用Sora，类似TikTok。应用有安全措施，已在美加iOS平台邀测。社区反应两极分化，OpenAI野心大但或面临挑战。
从Vibe Coding到Harness—— 一套大仓AI工程化实战
这是腾讯后端微服务与前端微应用大仓的 Harness 实战分享。介绍了 TAB 工程背景、Harness 组成部分，阐述阶段划分、Agent 演进等，还提及人工关卡、门禁脚本等要点，总结了经验与限制。
突发！Anthropic “封杀”中国控股公司，禁止其使用Claude等AI服务
9月5日，Anthropic宣布禁止多数股权由中国资本持有的集团或子公司使用Claude。政策调整涉及多种中国背景企业，也适用于美“对手国家”，还意在遏制中方获取先进AI技术，引发行业关注。
来自MIT最强AI实验室：OpenAI天才华人研究员博士毕业了！
OpenAI华人研究科学家陈博远完成MIT博士论文答辩。他不到4年读完博士，辅修哲学，是GPT图像生成核心成员和Sora视频团队成员，将推进世界模型技术，强调视觉世界模型对具身智能至关重要。