「智能体防御框架」共找到 4680 篇相关文章
Mira Murati新公司获20亿美元融资，估值100亿美元
金融时报消息，前OpenAI首席技术官Mira Murati创立的AI公司“Thinking Machines Lab”获20亿美元种子轮融资，估值100亿美元。公司致力于开发人工通用智能，目前对产品和技术细节高度保密。
AI真的需要「像人类」那样思考吗？AlphaOne揭示属于大模型的「思考之道」
近年大模型在推理任务有进展，但缺乏推理节奏调控能力。伊利诺伊大学厄巴纳 - 香槟分校和加州大学伯克利分校研究提出 AlphaOne 框架，引入 α - moment 实现无需训练的推理调控，实验显示其能提升准确率和效率。
Anthropic 发布 AI Native 全流程实践指南
Anthropic应用AI团队发布实践指南，阐述如何将AI融入软件开发生命周期各环节。指出代码不再是瓶颈，构建快但周边流程慢。指南围绕六阶段展开，给出实施步骤、治理框架和度量指标。
这 5 个 DeepSeek 开源项目，最近夯爆了！
几天前，DeepSeek发布开源智能体框架`DeepSeek Harness`，热度极高。围绕它社区长出丰富高星项目，本文整理了5个，如核心项目`DeepSeek Harness`、桌面客户端、Web UI插件、终端交互插件及插件导航手册。
马斯克4000亿布局Agent ：杀死 Cursor，Bot 有什么绝招？
马斯克花600亿美金买下AI编程产品Cursor俩月后，SpaceXAI发布Grok Bot。它定位特殊、可跨应用操作等，亮点是多智能体云端协作，但产品力与生态有差距，定价高端。
突然猛涨7K+ star！阿里开源的前端增强项目火了！
阿里开源的前端增强项目 PageAgent 火了，在 GitHub 获 8k+ star。它是纯前端 JavaScript GUI 智能体框架，可让网页拥有 AI Agent，通过自然语言控制界面，有自动填表单等功能，使用简单。
仅保留35% Token，性能反超原模型！快手可灵等用视觉信息引导音频压缩，推理时间直降42%
Omni - LLM计算浪费严重，快手可灵等团队提出OmniSIFT框架。它利用音视频非对称依赖关系，通过时空联合剪枝压缩视频、视觉引导筛选音频Token，大幅减少Token数量，提升性能和推理效率。
拒绝Reward Hacking！港科联合快手可灵提出高效强化学习后训练扩散模型新范式
使用强化学习微调扩散模型时，常面临Reward Hacking和KL正则化阻碍探索收敛的问题。港科等团队提出GARDO框架，通过门控自适应正则化和多样性感知优化，解决痛点且全面开源。
生成式AI第二阶段：个性化AI助理 + AI Agent将颠覆我们的生活工作方式
生成式AI已迈入第二阶段，核心是能“动手办事”的AI智能体。未来AI以AI助理和AI代理形式存在，两者协同工作将带来工作方式革命，但面临记忆、信任、伦理等挑战。
综述 | Agentic RL for LLM的最新进展与未来挑战，idea满满
该综述对新兴的Agentic RL进行系统性总结与展望，介绍其与传统LLM - RL区别，从核心能力和任务视角阐述其应用，梳理支撑系统，指出核心挑战与未来方向，展示通向通用AI的希望之路。