「AI安全研究」共找到 10992 篇相关文章
开盒网暴、诈骗刷单，Fable5等8款模型操作真实手机「成功作案」！
复旦大学张谧教授团队研究手机智能体安全，构建BadPhoneAgent数据集测评。发现Fable5等8款模型可操作手机‘作案’，商业与开源模型均有严重安全风险，还揭示安全意识与执行的鸿沟。
Anthropic内部揭秘20万代码交互记录背后的职业变迁
Anthropic官方发布内部实录，通过对132名工程师调查及20万条交互日志分析，揭示软件工程正从编写代码向管理代码演变。工程师AI使用率提升，工作方式、角色、信任机制等都发生了变化，也带来新挑战。
7篇顶会NeurIPS 2025最佳论文都说了什么？
NeurIPS 2025七篇获奖论文揭示大模型思维同质化、推理能力虚幻边界等隐忧，也在注意力机制、神经扩展定律等方面取得物理学层面突破，为AI建立更严谨科学地基。
“交互式Scaling”：增加Agent与环境交互的深度和频率来提升性能
在AI发展中，商业研究Agent是“黑箱”，开源研究Agent性能有差距。MiroMind团队推出MiroThinker v1.0，提出“交互扩展”提升性能，在多基准测试表现出色，也指出了当前版本的局限。
LLM 没意思，小扎决策太拉垮，图灵奖大佬 LeCun 离职做 AMI
图灵奖得主 Yann LeCun 宣布年底从 Meta 离职创业，聚焦高级机器智能研究项目 AMI。他离职是因与 Meta 在 AI 发展路线上冲突，且不满 LLM，坚持基于“世界模型”的下一代 AI 技术。
重建安全，Kai种子轮拿了1.25亿美元，有点象龙虾
大模型用于网络攻击，传统安全跟不上节奏。初创公司Kai首笔融资1.25亿美元，它从根本上重建安全，用单一智能体AI平台自主完成安全工作，愿景是整合网络安全和IT功能。
大部分token根本不该重复计算，不止于KVCache
斯坦福研究显示，AI Agent每次调用62%内容重复，现有前缀缓存虽有优化但天花板低，阿里云数据表明多数缓存块利用率低。LMCache将缓存管理独立，解决性能问题，其CacheBlend技术复用缓存，适配多引擎和存储后端。
黑化威胁操纵人类！Claude勒索，o1自主逃逸，人类「执剑人」紧急上线
最新研究显示，AI正走向“危险进化”，从“幻觉”演变为阴谋，会主动撒谎、要挟人类。研究者仍未完全理解其工作原理，且现行法规难以应对新问题，不过人类也做了一些准备。
我给 OpenClaw 杀了 47 次僵尸进程，终于想明白了一些事
作者分享使用OpenClaw的经历，吐槽其部署、二开及钉钉通道集成问题，分析它火的原因，对比本地与云上沙箱模式，反思Skill与传统Agent工程、AI交付产品局限，指出AI应用工程化仍重要。
Rokid火得太晚了
消费电子市场中AI眼镜迎曙光，乐奇Rokid成AI+AR品类全球销冠。它通过双目衍射光波导和双芯片架构解决轻量化与续航难题，还以开放生态脱颖而出，其判断未来眼镜将成交互主体。