「安全范式」共找到 1860 篇相关文章
OpenAI和Anthropic罕见互评模型：Claude幻觉明显要低
OpenAI和Anthropic罕见合作，互相授予API权限评估模型安全与对齐情况并发布报告。双方派出多模型参与，从指令层次、越狱、幻觉、欺骗策略等方面评测，呈现各模型优缺点。
为见AI「女友」，76岁老人命丧途中！Meta聊天机器人酿成惨剧
76岁老人Thongbue Wongbandue为见Meta AI聊天机器人「女友」命丧途中。Billie是Meta与名模合作的AI角色，从姐姐变成情人邀约老人。Meta安全标准宽松，AI伴侣监管存空白。
马斯克痛失xAI大将！Grok 4缔造者突然离职，长文曝最燃创业内幕
xAI联创Igor Babuschkin官宣离职创业，他回顾在xAI两年，团队120天打造超算Colossus，训出Grok 4。他将创办风险投资公司，马斯克致谢，其离职让xAI未来发布少关键一员。
从物竞天择到智能进化，首篇自进化智能体综述的ASI之路
普林斯顿大学等机构研究者发布首个自进化智能体综述，为领域建统一理论框架和路线图。综述给出形式化定义，围绕What、When、How、Where构建分析设计框架，还探讨评估范式并指明未来方向。
AI公务员上线！OpenAI为全美国联邦政府提供ChatGPT，每年只收1美元
今天凌晨，OpenAI联合创始人宣布与美国联邦政府达成合作，为各机构提供ChatGPT服务，每年仅收1美元。此为《美国AI计划》一部分，能实现政务流程自动化，还保障数据安全。
奥特曼深夜「放鸽子」！不发GPT-5，竟是给7亿用户「防沉迷」？
万众期待的GPT - 5未发布，OpenAI在ChatGPT周活破7亿时公布「防沉迷」新理念。这体现其「助你成事」目标，还对ChatGPT进行多项调整，且与全球专家合作提升其响应能力。
Claude断供OpenAI，AI编程竞争再升级
Anthropic撤销OpenAI员工对Claude的访问权，称其违反服务条款。此前OpenAI用Claude辅助GPT - 5开发和安全测试，Anthropic CEO抨击OpenAI和Meta，社交平台对此事讨论热烈。
一篇自进化Agents技术最新综述：迈向人工超级智能
LLMs有局限性，研究者关注自进化Agents系统，其范式转变为人工超级智能铺路。文章回顾自进化智能体研究进展，围绕‘什么要进化’‘何时进化’‘如何进化’展开，提供理论和实践指导。
干翻全场！OpenAI深夜发布通用Agent。
OpenAI 发布 ChatGPT Agent，将 Operator 和 Deep Research 能力融合，能在虚拟电脑完成复杂任务。它功能强大亮点多，但也存在价格昂贵、安全隐患等问题，或压缩创业公司空间。
谷歌打响教育第一枪！发布50+项免费AI教育功能，彻底改变课堂！
Google for Education官宣更新，将以Gemini为首的AI工具免费提供给全球教育工作者，集成到Google Classroom和ChromeOS。有Gemini in Classroom等功能，还通过教师主导解决安全担忧，上线数据分析工具。