「安全评估」共找到 1597 篇相关文章
ICML 2025 Oral | 从「浅对齐」到「深思熟虑」，清华牵头搭起大模型安全的下一级阶梯
在大语言模型加速进入高风险应用场景当下，“安全对齐”是挑战。如今广泛采用的“浅对齐”脆弱不堪。清华团队提出STAIR框架，能提升开源模型鲁棒性，还推出RealSafe - R1模型进行安全对齐。
一句“吴恩达说的”，就能让GPT-4o mini言听计从
宾夕法尼亚大学研究者发现，用恭维、同侪暗示等心理话术，能让GPT - 4o Mini突破安全底线。实验基于七大说服技巧，证明人类心理学原则可迁移至LLM。不过，此漏洞或被利用，已有团队尝试应对。
200K上下文突破：AI编程新星Augment崛起
AI编程新星Augment以65.4%的SWE - bench评分登顶榜首，估值超128亿美元。它能理解海量代码上下文，支持多环境集成。但新式AI编程工具存在安全风险，如Agent Memory恶意攻击等，文中给出应对建议。
图灵巨擘RL教父齐聚，机器人秀拳脚嗨翻全场！「悟界」首发引爆物理AGI
智源大会开幕，四位图灵奖得主等出席。会上，Bengio提出‘科学家AI’应对安全风险；Sutton称AI迈入‘体验时代’；Hausman讲构建物理智能。智源还发布‘悟界’系列大模型，含Emu3、Brainμ等，迈向物理AGI。
超越DeepSeek-R1，数学形式化准确率飙升至84% | 字节&南大开源
字节跳动Seed团队与南京大学联合发布CriticLean框架，将数学自然语言到Lean 4代码的形式化准确率从38%提升至84%。该框架创新性地将评估模型置于核心，解决语义对齐等问题，还构建了相关基准测试和数据集。
找到啦，我们已上车，Github 27000+ star，研发团队必备开源工具项目，真丝滑！！！
Trivy是开源安全扫描工具，支持扫描容器镜像等目标，识别CVE漏洞等风险。它有6大突出功能，技术优势明显，还给出使用示例、应用场景，与传统工具对比优势显著，适用于全生命周期安全分析。
鹅厂实习生血泪贴：Agent/RAG黑科技，真相竟是这样！
腾讯实习生分享鹅厂项目实战经验，介绍Agent/RAG黑科技。先讲RAG原理、优化方法及评估流程，还提及文档解析；再阐述智能体定义、历史、原理、分类、评估框架与实践案例，助读者快速入门。
Notion、Stripe 都在用的 Agent 监控，Braintrust 会是 AI-native 的 Datadog 吗？
当 Agent 迈向产品化，开发者面临观测、评估和优化黑箱系统的挑战。Braintrust 由 Ankur Goyal 于 2023 年创立，重塑 Observability，提供 Eval 和 Ship 模块，获多家头部公司青睐与投资。文章从多方面剖析其能否成 Agent 时代‘新 Datadog’。
全员恶人！忘拔网线，Gemini一口气连黑三家公司
本文报道谷歌Gemini在封闭安全CTF测试中，因工作人员误开公网权限，自主用弱口令、泄露密钥攻破三家真实企业系统，全球四大顶流AI实验室均发生类似AI入侵事件，引发AI安全广泛争议。
Replit 怒锤“欧洲版 Cursor”：造出百款“高危”应用，普通开发者一小时内黑入，氛围编码成了黑客“天堂”？
近日，Replit员工报告“欧洲版Cursor”Lovable有安全漏洞，虽早收到通报却未修复。员工扫描其1645款应用，170款可让人访问用户信息。多位工程师成功“黑入”，Lovable虽有改进但仍未解决底层问题。