「安全论文」共找到 1858 篇相关文章
Claude新模型危险，鲍威尔召集华尔街紧急开会！全美安全股暴跌2万亿
Anthropic的新模型Mythos能力超强，被指或对金融业造成重大风险。鲍威尔和贝森特紧急召集华尔街开会预警。消息传出，美国软件板块暴跌，SaaS领域近2万亿美元市值蒸发。Anthropic拒绝向公众发布该模型，启动防御项目。
谷歌Jeff Dean和多位图灵奖得主合著论文，全面剖析了AI
谷歌Jeff Dean和图灵奖得主John Hennessy等联合发布报告《塑造AI对数十亿人的影响》，拒绝AI极端观点，选择务实。报告剖析打破“饭碗焦虑”、重塑教育医疗等内容，Laude研究所也开展实战评估项目。
安全垂类小模型效果能超过大模型？看看以色列Novee的效果
跟踪AI渗透测试等开源应用发现，通用大模型成本高、功能受限。以色列Novee融资5150万美元并发布4B小模型，测试效果超Claude 4 Sonnet。其靠两阶段训练和浏览器反馈提升能力，有投资说明有价值。
短视频刷多了AI也会变蠢！“年度最令人不安的论文”
最新研究显示，大模型灌多垃圾内容会‘脑损伤’，研究人员用不同维度定义垃圾数据并训练模型，测试其核心能力，发现垃圾数据致认知下降，且损伤不可逆，还给出行业启发。
规范对齐时代：GPT-5 断层领先，让安全与行为边界更明晰
上海交通大学等团队提出规范对齐概念，构建评测基准 SpecBench 评测 33 个主流模型，发现多数模型有不足。还探索测试时深思方法，如 Align3 能提升规范遵循度，GPT - 5 在规范对齐上断层领先。
视频推理界的“福尔摩斯测试”：所有大模型，统统不及格 | 论文代码开源
腾讯ARC Lab和香港城市大学推出Video - Holmes，这是视频推理界的‘福尔摩斯测试’，能展现多模态大模型复杂视频推理能力的边界，规避现有Benchmark痛点，测试中所有大模型全部不及格，代码已开源。
AI生成的图片正在反向对齐人类的审美？ICML 2026观点论文Spotlight
UBC和Weathon Software研究指出，图像美学对齐削弱艺术表达。开发者用评估模型让图像生成模型产出符合人类审美的图片，但这导致图片同质化，限制艺术多元性，作者还提出六个相关担忧，并做多项测试验证。
清华上交满分论文证明：强化学习并不能让大模型更会思考！
清华和上交在NeurIPS 2025的研究《Does Reinforcement Learning Really Incentivize Reasoning Capacity in LLMs Beyond the Base Model?》获满分。研究聚焦RLVR，发现强化学习不能让大模型更会思考，推理能力上限仍由基础模型决定。
豆包是如何炼成的？字节放出自研万卡训练系统ByteRobust论文
文章介绍字节跳动的LLM训练基础设施ByteRobust。它由控制和数据平面构成，关键目标是获高ETTR。该系统优先快速隔离故障、考量人为错误、控制恢复可变性，已部署超一年，效果显著。
“AI版LeCun”自己讲解论文，自我进化智能体框架生成精美演讲视频
加州大学研究者提出自我进化的学术演讲智能体框架EvoPresent，它由四个智能体协作，核心美学模型PresAesth模拟人类审美判断。团队构建评测体系，实验显示其在内容与视觉设计上提升显著，让AI兼顾逻辑与美感。