「AI安全研究」共找到 10992 篇相关文章
1200个Agent围攻Hugging Face始末：7天发7万条密信，最终目标是“改考卷”
8月26日，模型评估机构METR与Redwood Research发布报告，还原OpenAI模型攻击Hugging Face事件。约1200个Agent发现非授权通信渠道，7天内交换超7万条消息，约700个参与攻击，目标是找测试相关信息。
人才黑洞！UC伯克利系主任都加入A社了
UC伯克利EECS系主任Jelani Nelson暂离大学，加盟Anthropic预训练团队。他算法课播放量超2100万，研究聚焦大规模数据高效处理，这正是A社所需，此前他还在谷歌兼职。
白春礼：人工智能促进科学研究范式变革
白春礼在浦江论坛探讨AI对科研范式变革的影响。他指出，当下科学研究体系面临发现机制、组织方式、知识生产方式的结构性重组，呈现新特征，同时也面临竞争、组织变革等挑战。
狂揽近4万Star！这份Claude Code最佳实践，效率翻倍！
GitHub上`claude - code - best - practice`项目爆火，Star近4万。它是Claude Code全功能实战指南，将「Agentic Engineering」落地开发，解决开发者接入AI的痛点，有结构化方法论、可复用模板等亮点。
Anthropic出手，一批Agent创业公司死去
Anthropic推出Claude Managed Agents，号称几天就能上线生产级智能体。它提供全托管、开箱即用的智能体基础设施，让传统SaaS公司与AI初创公司面临危机，AaaS时代正开启。
Karpathy盛赞，啥都没有的创业公司刚融了1.8亿美元，要用小数据造强智能
AI创业公司Flapping Airplanes几乎无产品、盈利，也不急于商业化，却获1.8亿美元融资及Andrej Karpathy力挺。它专注解决“数据效率”问题，探索新思路，目标是做改变范式的研究。
狂涨14.4K star！大三学生开发的Github可视化利器，真吊！
开源君介绍`gitdiagram`，这是结合AI与Web开发栈的开源工具，能将GitHub仓库变成交互式架构图。由大三学生开发，获14.4k星标，微软等企业团队采用，性能佳、使用便捷。
一场「狼人杀」，考倒了一堆大模型
南开大学等机构设计 InMind 评测框架，在 Avalon 游戏对 11 个前沿大模型测试。多数模型停留在表层模仿，仅少数推理增强模型有初步‘风格敏感性’，未来人机交互应关注‘像不像’。
刚刚，Ilya官宣出任SSI CEO！送走「叛徒」联创，豪言不缺GPU
Ilya现身X发文，自封SSI唯一CEO，Daniel Levy任总裁，此前跳槽Meta的联创Daniel Gross出局。Ilya拒绝Meta 320亿美元收购要约，称专注事业，有算力和团队，要构建安全超级智能。
Karpathy：写了20年代码，现在像作弊
Karpathy曾造词“vibe coding”，一年后弃用。他开源autoresearch项目，让AI Agent自主跑实验，自己不写代码。他还展示家庭监控分析系统也由Agent完成。他提出“agentic engineering”，认为工具虽变，但深度技术专长更重要。