「安全推理」共找到 2897 篇相关文章
Andrej Karpathy：AI Agent有风险，使用需谨慎
前特斯拉AI总监Andrej Karpathy警告，AI Agent像早期计算机时代的“狂野西部”，存在安全漏洞。Simon Willison指出“致命三要素”会让AI Agent成定时炸弹，供应商难防混合工具风险，防护措施也不全面。
Knowledge还是Reasoning？具体分析LLM答案正确，不代表思考过程靠谱的问题
斯坦福/加州大学团队指出大模型答案正确不代表思考过程靠谱，传统评估忽略思考路径问题。团队提出双维度评估框架，透视模型思考过程，还测试发现不同领域决胜关键、最佳训练法不同，且框架正解锁新场景。
12.1万高难度数学题让模型性能大涨，覆盖FIMO/Putnam等顶级赛事难度，腾讯上海交大出品
腾讯AI Lab与上海交大团队联合推出首个基于自然语言的数学定理证明框架与数据集DeepTheorem。12.1万道高难度数学“特训题”让模型定理证明性能大涨，7B模型性能比肩或超越现有开源和商业模型。
技术更新 or 组织重塑，企业如何用好“数据智能”？
InfoQ《极客有约》X AICon 直播栏目邀专家探讨企业数据智能应用。谈及构建数据集、优化检索效率等问题，还分析数据准备挑战、DeepResearch 优势，指出数据智能落地面临组织与技术层面的挑战。
DeepSeek-R1-0528 打榜、20+案例全面实测，全球网友狂点赞：实力堪称R2！
DeepSeek 上新的 DeepSeek - R1 - 0528 让 AI 圈沸腾。它在 LiveCodeBench 榜单飙升至第 4 位，性能逼近 OpenAI 的 o3 高级版。全球网友实测后好评如潮，其在多方面能力出色，且完全开源，引发对 R2 的期待。
一文解读 LLM Posting-Train技术
文章解读了大语言模型后训练（Post-training）技术，介绍其核心价值，从微调、强化学习、测试时拓展三方面展开，分析现有技术瓶颈，指出前沿研究方向，还给出实践指南和工具链推荐。
通义灵码编程智能体，上线！
近期 Qwen3 正式发布并开源 8 款「混合推理模型」，表现出色。通义灵码全面支持 Qwen3 并上线编程智能体，具备多种能力，支持配置 MCP 工具，集成魔搭 MCP 广场，能大幅提升开发效率。
OpenAI押注RSI，国产AI火速交卷！Flash叫板万亿大模型
OpenAI、Anthropic先后公开布局递归自我改进（RSI），国内云知声推出搭载RSI自迭代机制的U2-Flash大模型，本文带来实测表现与技术路径拆解，验证小激活规模对标万亿大模型的可行性。
突发！反噬来了，英伟达限制使用 Anthropic 模型
本文爆料突发AI行业事件：Anthropic发布新模型后推出强制数据留存政策，推翻此前和企业签订的零数据保留协议，引发数据安全担忧，英伟达等三家巨头率先限制使用其模型。
27岁研究员连辞OpenAI、Anthropic！两家都在拿我们的命下注
本文报道GPT-4o核心贡献者Jacob Coxon接连从OpenAI、Anthropic辞职并退出AI行业，批判头部AI机构陷入竞速赛，罔顾超级智能失控风险，直指行业需共同踩刹车。