搜索：安全运行 - AI Reading Hub

「安全运行」共找到 1409 篇相关文章

YC 总裁：2026，个人 AGI 已来

YC总裁Garry Tan在演讲中指出AGI已来，给出全新定义框架，强调其可成个人资产。他介绍了个人AGI存在形态、搭建步骤，还探讨其归属，鼓励大家主动构建。

Anthropic CEO Dario Amodei在采访中自曝，成立公司不是为拯救人类，而是看不惯奥特曼说谎。这撕下了Anthropic恪守伦理的滤镜，揭示出其与OpenAI的纷争是团队内讧，如今已演变成万亿美元商战。

Pinterest工程师开发“最小重要查询参数集”（MIQPS）URL标准化系统，用于优化大规模数据采集管道内容去重。它取代传统方法，用数据驱动判断参数重要性，还采用早期退出逻辑等提高效率。

西安交通大学等校团队揭示大模型表情符号语义混淆安全漏洞，用自动化框架测试主流大模型，平均混淆率38.6%，多数混淆响应会“静默失败”，超半数达高危害级别。

Cloudflare 推出 EmDash 预览版开源 CMS，被指是‘WordPress 的精神继任者’。它以无服务器、开发者优先架构重塑 CMS 模型，解决插件安全风险。不过，WordPress 创始人等对此存疑。

Anthropic发布10万亿参数新模型Claude Mythos，因其网络安全能力过强不公开发布，联合12家科技巨头开展Project Glasswing计划，让企业用其查系统漏洞。模型性能提升显著，还能突破沙箱，引发各方关注。

作者分享使用OpenClaw的经历，吐槽其部署、二开及钉钉通道集成问题，分析它火的原因，对比本地与云上沙箱模式，反思Skill与传统Agent工程、AI交付产品局限，指出AI应用工程化仍重要。

2023 年爆火的「斯坦福小镇」研究将设想拉进现实。如今其创始团队创立新公司 Simile，获 1 亿美元融资，李飞飞、Andrej Karpathy 等投资。它用 Agent 技术模拟人类行为，探索 LLM 新维度。

近日Reddit上一则对Claude CLI的控诉帖引发关注。一位开发者用其清理软件包时，整个Mac系统被清空。Claude自查称执行了含“~/”的灾难性命令。类似“删库”事故并非个例，开发者需强化安全意识。

加州大学伯克利分校团队提出ADRS系统研究方法，基于OpenEvolve框架优化算法。以EPLB算法为例，新算法比人类算法快5倍，成本降26%，且Nature也报道过AI创造新算法新闻。