「AI安全测试」共找到 11135 篇相关文章
Knowledge还是Reasoning？具体分析LLM答案正确，不代表思考过程靠谱的问题
斯坦福/加州大学团队指出大模型答案正确不代表思考过程靠谱，传统评估忽略思考路径问题。团队提出双维度评估框架，透视模型思考过程，还测试发现不同领域决胜关键、最佳训练法不同，且框架正解锁新场景。
专访高同学：央美毕业生已经在用扣子做毕设了
文章聚焦央美高伟翔同学用扣子平台完成毕设——荒诞商品生成器。该作品借助AI将情绪转化为荒诞商品，灵感源于淘宝荒诞商品，旨在反思消费主义，反响不错。高同学还分享了选择扣子的原因及创作困难。
Reasoning模型在RL下的探索欲望急速下降问题：探索熵机制
论文研究发现大模型经强化学习训练解题时，会出现模型探索欲望急速下降的熵崩溃现象，如训练初期策略熵断崖式下跌。对此进行规律分析、追根溯源，提出破解方法，研究对AI训练范式变革有重要意义。
多模态大模型不会画辅助线？最新评估得分：o3仅25.8%，远低于人类82.3% | 清华腾讯斯坦福联合
清华、腾讯、斯坦福等团队发布RBench - V基准测试，评估大模型视觉推理能力。结果显示，主流大模型如o3、Gemini2.5等准确率远低于人类，开源模型表现更差，暴露出大模型在复杂多模态推理任务中能力不足。
超长推理还能节省计算！Salesforce开源神器两连发：教大模型边想边省，显著提升数学编程准确率
Salesforce AI Research开源Elastic Reasoning和Fractured Sampling。前者将推理流程分两部分，分配token预算，使输出缩短、准确性提高；后者打碎推理链条，从三维度采样，以更少tokens换更高准确率，均提升数学和编程任务准确率。
突袭Cursor，Windsurf抢发自研大模型！性能比肩Claude 3.5、但成本更低，网友好评：响应快、不废话
当地时间5月16日，Windsurf推出首个AI软件工程模型家族SWE - 1。此系列含三款模型，性能比肩Claude 3.5且成本更低。开发者试用评价不错，但也指出存在幻觉问题。Windsurf旨在提升软件开发速度，后续将持续投入。
Meta最强模型跑分超越Opus 5.5？实测大翻车，作弊刷榜实锤了
本文报道Meta发布全新大模型Muse Wonder，官方宣称跑分超越GPT-6 Astra与Claude Opus 5.5，砸千亿冲击前沿大模型梯队，却遭开发者实测翻车，引发刷榜作弊争议，梳理了模型优缺点与Meta的AI战略布局。
Jev刷屏之后，竟然有人12个月前就提出了概率并行生成？
Jev刷屏引发AI面向决策输出的讨论，本文挖掘出香港中文大学徐强团队2025年9月就已提出显式概率、并行输出、面向决策的概率预测新范式，验证模型TimePrism以极简结构取得超越复杂模型的效果，思路与Jev异曲同工。
Claude Opus 5 发布：Fable 5 一半的价格，更强的编码能力
Anthropic 发布 Claude Opus 5，定价与 Opus 4.8 相同，价格是 Fable 5 的一半。它在编码、知识工作和推理上表现出色，虽有不足，如速度慢、幻觉率较高，但提供多种 effort 等级，成本低，安全对齐性好。
腾讯 Hy3 一手实测，Agent 能力提升不止一点
作者拿到 Hy3 模型测试资格，介绍其架构、性能和价格优势，还在 WorkBuddy 里实测它完成运营工作、选编辑助教、开发新功能等任务的效果，最后评价 Hy3 能力、价格、适配方面的表现，并分析 WorkBuddy 领先原因。