「安全 AGI」共找到 1352 篇相关文章
龙虾创始人深夜点赞：百度 DuMate，打工人的 AI 搭子
文章介绍百度新上线的产品 DuMate，它被定位为首个「国产企业级满血版 OpenClaw」。安装简单，能深度集成百度工具生态，部署方便且安全。通过多场景实测，其任务完成度高，是打工人实用的 AI 搭子。
每天审200个PR、每月3000个Issue？智能体开始并行写代码，人类可能成最薄弱环节
本文是对微软 VS Code 团队工程经理 Kai Maetzel 的访谈。他回顾了 VS Code 发展历程，分享 AI 编程、智能体开发及开发者工具设计的实践思考，如 AI 补全体验优化、智能体开发权衡、与 IDE 交互机制等，还探讨了未来发展挑战与趋势。
NeurIPS 2025｜指哪打哪，可控对抗样本生成器来了！
近日，清华大学和蚂蚁数科在NeurIPS上联合提出Dual - Flow新型对抗攻击生成框架。它能从海量图像数据学“通用扰动规律”，对多模型、多类别发起黑盒攻击，为AI安全带来挑战，已用于蚂蚁数科产品。
“你们尽管做空 OpenAI！”奥特曼霸气喊话，纳德拉亲述微软百亿投资内幕 | 巨头对话
外网播客中，微软CEO纳德拉与OpenAI CEO奥特曼对话，谈及微软与OpenAI新合作协议，涵盖股权、收入分成等。还讨论算力投入、AGI规则、上市传闻等话题。二人对合作成果满意，对未来发展充满信心。
硅谷一线创业者内部研讨：为什么只有 5%的 AI Agent 落地成功，他们做对了什么？
来自硅谷一线AI创业者数据显示，95%的AI Agent在生产环境部署失败，原因在于围绕模型搭建的脚手架不完善。文章基于研讨会内容，探讨AI Agent构建关键，如上下文工程、安全控制、记忆功能等，并指出待解决问题和未来方向。
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
技术大神用纯Rust从零构建了LLM，在GitHub上大火
Python是AI界宠儿，Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM，在GitHub上火了。Rust弥补了C/C++和Python的不足，Rust社区LLM项目增多，巨头也在布局。
GPT-5 = Scaling Law失效？毕树超：永远有效，因为它反应的是数据结构，客观规律
Shuchao Bi在哥大演讲阐述AI发展。回顾自监督与强化学习路径，指当前发展遇高质量数据瓶颈，认为Scaling Law不会失效。还探讨通往AGI面临的问题，畅想AI重塑世界，提出两个理解AI发展的心智模型。
一个上海AI独角兽爆发了
全球AI圈因MiniMax“发布周”沸腾。新模型MiniMax - M1被视为“性价比新王”，还有新视频、语音模型表现出色。其89年博士闫俊杰带队，在大模型研发上多次做非共识选择，现估值超30亿美元，还推出智能体产品。
无需标注和奖励模型！仅靠自信度RL，16个样本训练20步，效果飙升21%！
论文提出RLSC，让大语言模型用自身答案置信度作奖励信号，摆脱人类标注依赖。它以模型自信度内部信号替代多数投票外部信号，小成本提升模型数学能力，还让模型学会快推理，不过也存在安全隐忧。