「安全 AGI」共找到 1350 篇相关文章
听了Andrej Karpathy最新2小时访谈，我对Agent彻底祛魅了
Andrej Karpathy在播客中表示，Agent发展还需十年，离像实习生工作还差很远，要解决诸多能力问题；他认为强化学习糟糕但其他方法更糟，还提出AI应削减背书式记忆、未来强大AI或仅十亿参数等观点。
250份文档就能给大模型植入后门：不分参数规模
Claude母公司Anthropic联合英国AISI和图灵研究所研究发现，仅250份恶意文档就能给不同规模大模型植入“后门”漏洞，打破了以往对大模型数据中毒的认知，给厂商提了个醒。
6.1k星星！这个开源 AI 知识库火了。附教程，简单且实用。
知识管理是刚需，因数据安全问题，本地部署的开源知识库受关注。本文推荐PandaWiki，它是AI驱动的开源知识库搭建系统，安装部署简单，功能丰富，适用于企业和个人。
AI正在埋葬整个互联网的商业模式！
AI正改写全球网站流量格局，让传统流量模式失效，广告收入蒸发。它带来新规则，如智能体即买手、决策即交易等。企业应将产品服务塞入AI对话路径，普通人也可凭信任溢价等不被碾压。
奥特曼：点名表扬两个波兰人，OpenAI还没遇到过他们解决不了的问题
奥特曼点名表扬OpenAI两位波兰科学家Jakub Pachocki和Szymon Sidor，他们贡献从Dota项目扩展强化学习到领导GPT - 4预训练。2023内乱中他们追随奥特曼，后帕哥成首席科学家，西哥为独立贡献者。
OpenAI和Anthropic罕见互评模型：Claude幻觉明显要低
OpenAI和Anthropic罕见合作，互相授予API权限评估模型安全与对齐情况并发布报告。双方派出多模型参与，从指令层次、越狱、幻觉、欺骗策略等方面评测，呈现各模型优缺点。
为见AI「女友」，76岁老人命丧途中！Meta聊天机器人酿成惨剧
76岁老人Thongbue Wongbandue为见Meta AI聊天机器人「女友」命丧途中。Billie是Meta与名模合作的AI角色，从姐姐变成情人邀约老人。Meta安全标准宽松，AI伴侣监管存空白。
刚刚，大模型棋王诞生！40轮血战，OpenAI o3豪夺第一，人类大师地位不保？
国际象棋积分赛成果出炉，OpenAI o3以人类等效Elo 1685分夺冠，Grok 4和Gemini 2.5 Pro紧随其后。Kaggle发布国际象棋文本排行榜，评估模型战略推理等能力，还推出相关数据集，虽有局限但意义重大。
Hinton预言「AI妈妈」刷屏硅谷！李飞飞：人类或将毫无尊严
在Ai4 2025大会上，“AI教父”Hinton警告人类难控AI，提出建立“AI母亲”，让AI关心人类；“AI教母”李飞飞反对，呼吁打造“以人为本的人工智能”，维护人类尊严。
马斯克痛失xAI大将！Grok 4缔造者突然离职，长文曝最燃创业内幕
xAI联创Igor Babuschkin官宣离职创业，他回顾在xAI两年，团队120天打造超算Colossus，训出Grok 4。他将创办风险投资公司，马斯克致谢，其离职让xAI未来发布少关键一员。