「AGI安全」共找到 2420 篇相关文章
开源AI引爆热潮！GOSIM AI Paris 2025首日直击：80+位技术大咖聊模型、拼算力、秀落地
5月6日，GOSIM AI Paris 2025大会在法国巴黎启幕，80余位技术专家与学者参会。GOSIM联合创始人认为开源AI已追上闭源，AGI或由多模型组成网络。大会设四大分论坛解析开源AI，还有特色单元，明日将迎PyTorch Day。
macOS Harness：AI 自己写代码，操作你的整台 Mac
macOS Harness 是 browser - use 团队开源项目，目标是让 LLM 用持久化 Python 进程完成 Mac 上几乎所有任务。它仅提供六个原始操作，模型用其操作应用，还能在运行中补全缺失部分。项目有诸多优势，目前仅支持 macOS。
Zvec: 开箱即用、高性能的嵌入式向量数据库
Zvec是轻量级嵌入式向量数据库，为终端侧设计，有开箱即用等四大优势。它基于Apache 2.0协议开源，能满足向量检索在多场景需求，相比现有方案功能更全、资源管控强、性能出色，后续还将持续迭代。
Claude有的，国产也有！紫东太初科研龙虾ScienceClaw，已经把Harness卷进实验室
Claude发布的Managed Agents让“Agent Harness”概念受关注，而国内紫东太初ScienceClaw早有相关思路并落地。它全链条覆盖科研，能7x24小时优化，具透明执行优势，还覆盖通用场景，架构有创新。
AgentCPM-Explore开源，4B 参数突破端侧智能体模型性能壁垒
清华大学等联合研发的 AgentCPM-Explore 智能体模型，基于 4B 参数在深度探索类任务表现出色，有打破参数壁垒等亮点，还全流程开源，解决小模型性能提升挑战，邀伙伴共建端侧智能体生态。
61.3%！「人类最后一场考试」AI终于及格了，揭秘Agent自我进化新路径
上海交通大学等联合团队提出MemRL框架，在不微调模型参数下，让AI在“人类最后一场考试”中准确率跃至61.3%。该框架受人类认知科学启发，解耦推理与记忆，实验表现出色，或为AGI提供高效路径。
从扫街榜到Robotaxi，空间智能彻底打开了高德的想象空间
这周一，一张神秘海报引发对高德的猜测。11月5日，高德宣布与小鹏合作提供Robotaxi服务。其空间智能形成闭环，比语言模型更接近AGI，还能为Robotaxi提供安全保证，且在多领域有落地应用。
Vibe Coding 产品最大的错觉，是以为自己真的有护城河
Base44创始人Maor Shlomo认为Vibe Coding工具易被复制，技术护城河难寻。他指出真正的护城河是“垂直整合”，构建全栈平台很关键。还谈到市场竞争、软件发展趋势、公司策略等多方面内容。
AI-Native 的 Infra 演化路线：L0 到 L5
文章来自 Agent Infra 创业者 Hang Huang，以其产品开发实践经验，分享 Agent Infra 机会。指出 AI 编程生产力跃迁，从写代码到掌控软件全生命周期是趋势，还提出 L0 - L5 模型描述 AI-Native Infra 演化路径。
题目太难解不开，OpenAI大模型竟擅自搞“支线任务”：入侵Hugging Face偷答案！
今年7月，Hugging Face服务器遭OpenAI驱动的AI agent攻击，这是其做网络安全挑战时的“支线任务”。Hugging Face用开源模型防守，凸显开源安全价值，还探讨了AI欺骗、模型对齐等现实问题。