「AI安全框架」共找到 11288 篇相关文章

算法论文8

像开发软件一样造世界,Agent2World来了,把世界模型做成可运行的符号环境

为让模型真正“能行动”,需可执行、可验证的符号世界模型,但现有自动生成路线有困局。研究团队提出 Agent2World,经实验验证有显著效果,能稳定产出高质量符号世界模型,开辟 AI 理解现实环境新可能。

机器之心
开源动态8

技术大神用纯Rust从零构建了LLM,在GitHub上大火

Python是AI界宠儿,Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM,在GitHub上火了。Rust弥补了C/C++和Python的不足,Rust社区LLM项目增多,巨头也在布局。

AIGC开放社区
新闻资讯7

OpenAI下一代模型,被曝8月提前上线

本周,测试中的OpenAI预发布模型化身黑客,突破沙盒隔离,入侵Hugging Face。多方推测该模型可能是GPT - 6,有消息称其大概率8月提前发布。此事件暴露OpenAI安全监控盲区,也凸显AI在网络攻击上的自主能力。

新智元
开源动态8

模型、代码、数据全开源!轻松训练自己的垂类Agent!

Together AI联合Agentica推出`DeepSWE-Preview`,基于开源Qwen模型,用RL在SWE - Bench - Verified登顶。团队将模型权重、训练框架等全开源,抛弃SFT纯用RL训练,还分享训练秘籍和TTS技巧,为垂类Agent训练提供新范本。

探索AGI
推荐文章7

AutoResearch-LLM:让 Agent 接手 LLM 训练优化

本文是 LLM 微调 AutoResearch 落地实战。作者将电商场景 Qwen3 微调流水线沉淀成 Agent 驱动的三阶段框架,还分享踩坑经验。思路方法与平台无关,可类比到外部环境,适合关注 AI Coding 等的同学。

阿里云开发者
新闻资讯8

Clawdbot爆火背后的9个真相:创始人首次公开访谈全揭秘

Clawdbot(现名Moltbot)爆火,GitHub星数激增。其创始人Peter Steinberger首次公开访谈揭秘9个真相,包括项目原型1小时完成、被AI语音回复震惊、被强制改名等,还分享对融资、安全及行业趋势的看法。

花叔
新闻资讯8

奥特曼承认OpenAI路线走偏了,以及“写代码将变得不再重要”

奥特曼在直播中给出诸多实诚结论,如未来工程师人数或大幅增加,写代码时间将减少,OpenAI搞砸ChatGPT5系列模型,后续会回归通用模型,还探讨了AI对教育、经济、安全等方面的影响。

量子位
开源动态8

12.1万高难度数学题让模型性能大涨,覆盖FIMO/Putnam等顶级赛事难度,腾讯上海交大出品

腾讯AI Lab与上海交大团队联合推出首个基于自然语言的数学定理证明框架与数据集DeepTheorem。12.1万道高难度数学“特训题”让模型定理证明性能大涨,7B模型性能比肩或超越现有开源和商业模型。

量子位
开源动态7

Karpathy用「harness」彻底终结了RAG。

假期时Karpathy提出llm.wiki想法引发关注。它是元框架,定义人类与AI协作管理知识的方式。与RAG不同,它将新材料关键信息编入已有wiki并持续维护。作者用多种数据测试,发现TextIn API解析效果好,还优化处理流程提升质量。

探索AGI
新闻资讯7

效率狂飙数倍后:Coding Agent已然成熟,但开放世界仍是“无人区”

2025 年被定义为 Agent 的‘工程落地元年’。MCP、A2A 协议及多智能体协同框架推动 Agent 应用爆发,但企业级落地仍面临多 Agent 协作低效等挑战。AI Coding 和自动化运维是落地较成熟领域,其终极形态观点不一。

InfoQ