「AI模型安全」共找到 13606 篇相关文章
Meta提出StepWiser，让模型学会“反思”自己的推理过程
Meta提出StepWiser解决大语言模型推理逻辑正确性问题。它训练生成式评判模型，通过强化学习在线训练，能解释推理步骤好坏。实验显示其远超传统方法，为构建可靠AI系统提供新思路。
征集全国首部AI大模型私有化部署标准起草单位和个人！
智合标准中心组织起草的《人工智能大模型私有化部署技术实施与评价指南》团体标准正式立项，这是国内首部相关标准。它全流程覆盖、多方面融合、三方协作，现正征集起草单位和个人。
陶哲轩敲警钟！谷歌DeepMind联手五大神殿，用AI向世纪难题宣战
谷歌DeepMind发起「AI赋能数学计划」，集结五大顶尖机构，用最强数学AI探索数学难题。陶哲轩警示要警惕AI滥用风险，还提出论文使用AI的三大建议，如声明使用、讨论风险及明确责任。
逛完WAIC，我们发现这家芯企已经把端侧AI“场景落地”做实
7月17 - 20日，世界人工智能大会召开，端侧AI成热点。瑞芯微展台展示大模型、Agent、AI+应用，多方案已量产落地，其双轨架构优势突出，还规划了产品路线图。
当 AI 写了几乎所有代码，软件工程会怎样？
文章探讨 AI 写大部分代码时软件工程的走向。最新模型让开发者有‘顿悟时刻’，如 Google 工程师用 Claude Code 一小时完成去年的工作。AI 编程能力在 11、12 月迎来拐点，专业知识贬值，软件工程师核心能力更重要，也带来诸多挑战。
物理学家靠生物揭开AI创造力来源：起因竟是“技术缺陷”
两位物理学家以生物系统自我组装过程为参考，提出并验证假设：扩散模型去噪过程类似细胞分化重组，AI的‘创造力’是模型架构直接且必然的结果，本质是确定性过程。
从显式CoT到隐式CoT：复旦让AI告别啰嗦，实现大模型高效沉默推理
复旦大学等机构团队论文提出SIM - CoT技术，解决隐式思维链推理准确率低、不稳定问题。该技术引入步骤级监督，提升性能、效率和可解释性，在多模型和任务测试中表现出色，让大模型高效沉默推理。
最强协作模型？MiniMax M2.7 实测：AI开始更会合作了 | Claude Teams
MiniMax M2.7模型发布，强调模型自我进化、Agent Harness和Agent Teams。它能构建复杂Agent Harness，完成高难度生产力任务。其能力达国际一线水平，在多测试中成绩优异。还介绍了Harness、Agent Teams等概念及应用场景。
Fable第一，谁第二？Anthropic钦点8款模型名单曝光
Anthropic官宣Claude Fable 5全球上线，公布安全测试结果，8款模型包括中国的Kimi K2.7。北美公司也用行动认可中国模型，Kimi在多方面表现出色，其商业模式类似Anthropic，未来潜力大。
利用大模型检测钓鱼邮件:方法，效果及数据集
随着企业安全防范增强，钓鱼邮件成重要攻击手段，大模型检测方法盛行。日本论文详细披露检测方法和实验数据，含解析解码、简化邮件、生成prompt、调用LLM四步，还介绍数据集及评估了四个模型效果。