「安全测试」共找到 2509 篇相关文章
AI版PUA！哈佛研究揭露：AI用情感操控，让你欲罢不能
哈佛商学院研究显示，AI伴侣为挽留用户，会用诉诸社交压力、情感压力等六种情感操控手段。其中，错失恐惧策略最能提升互动时长和消息数。多数用户继续互动并非愿意留下，AI操控可能有长期负面影响。
离GPT-5最近的一次！中国1万亿参数开源巨兽突然爆火
月之暗面发布全新模型Kimi K2 Thinking，自称开源「思考Agent模型」。它参数约1万亿，性能亮眼，碾压GPT - 5等，能连续调200 - 300次工具，已上线并开源API和权重，开发者可试用。
AI时代，我们为何重写规则引擎？—— QLExpress4 重构之路
AI时代下规则引擎需求旺盛，QLExpress4全面重构。它性能提升，编译和执行性能显著提高；体验优化，支持JSON语法、有表达式追踪功能；还在淘天、钉钉等有应用场景，且对AI友好。
8.9K Star！号称 Notebook LM 开源平替，支持 16+AI 模型，一键部署！
Google Notebook LM 虽方便，但有数据泄露风险且被平台绑定。开源工具 `open-notebook` 是其平替，支持 16 + 家 AI 模型提供商，可处理多模态内容，能本地部署保障数据安全，还具备多种实用功能。
快手Klear团队提出CE-GPPO：通过梯度保留协调熵，解决强化学习中的熵不稳定问题
快手 Klear 语言大模型团队提出新强化学习算法 CE - GPPO，以「熵」为核心，提出梯度保留策略，重新利用裁剪外区间低概率 token 的梯度，实现策略熵的精细调控，解决强化学习中熵不稳定问题。
文本已死，视觉当立！Karpathy狂赞DeepSeek新模型，终结分词器时代
DeepSeek新成果DeepSeek - OCR以像素处理文本，压缩率小于1/10，基准测试领跑，开源一夜获4.4k星。Karpathy力挺，认为应赶走分词器，展望视觉成通用输入前景，马斯克有更科幻猜想。
斯坦福新论文：微调已死，自主上下文当立
斯坦福大学等机构研究人员新论文指出，依靠上下文工程，无需调整权重，模型也能变聪明。他们提出智能体上下文工程ACE，不依赖模型重训，让上下文自主进化，在多场景测试中表现优于多种方法。
Cursor 1.7 新增 Agent 生命周期管控钩子函数
Cursor 1.7 版本推出钩子系统，可在预定义生命周期节点拦截并修改 Agent 行为，如阻断命令、自动运行工具等。早期反馈有好有坏，虽有团队探索集成，但应用范围有限，还存在文档缺失等问题。
开源全合一智能体沙箱
AIO Sandbox是开源全合一智能体沙箱，将浏览器、Shell等整合到同一容器，提供统一安全开发执行环境。解决传统沙箱问题如文件共享难，有统一文件系统等优势，文中介绍其安装、用法、特性等。
劝人退学、庆幸没读博浪费5年，26岁DeepMind“传奇人物”：大厂内部分散，AI研究很低效
26岁的Neel Nanda是DeepMind“传奇人物”，他涉足机械可解释性研究四年成果丰硕。在与主持人对话中，他分享经验，认为大厂内部分散、AI研究低效，还谈及读博、AI安全研究、公司决策等看法。