「AI安全」共找到 10544 篇相关文章
AI自己给自己当网管，实现安全“顿悟时刻”，风险率直降9.6%
大型推理模型有安全风险，此前监督微调泛化能力有限。SafeKey团队提出创新的SafeKey框架，发现大模型信息“越狱”两大核心，通过双通路安全头和查询遮蔽建模强化模型安全，实验验证其有效性。
人类程序员依然远强于LLM：为什么说 AI 目前还差点火候
Redis之父Antirez的博文指出人类程序员远强于LLM。他修复Redis向量集缺陷时，与Gemini 2.5 PRO交流，虽其有帮助，但人类跳出固有思维解决问题的创造力是LLM难以企及的。
提示工程实战指南：从Zero-Shot到Graph Prompting，7大核心技术全解析
随着大型语言模型发展，提示工程成关键技能。文章介绍零样本提示、少样本提示等七种提示优化模式，分析适用场景、优缺点，还给出示例，最后总结各技术适用场景及最佳实践。
搜攻略到凌晨3点？飞猪AI“问一问”用1张表谋杀废话
作者用旅游方案提示词测试各类Agent产品，多输出废话。飞猪“问一问”旅行Agent却很厉害，能生成实用旅行规划，还给出汇总表格、地图、行程卡片等，考虑全面且细节丰富，还能找特价机票。
开源AI开发生态大洗牌：低代码平台逆袭，传统LLM框架日渐式微
第十届527蚂蚁技术日，蚂蚁对现有开源生态全面剖析，发布2025大模型开源生态全景图。分析显示开源生态有三个主导技术赛道，还总结出七大趋势，为从业者提供生态演进规律参考。
物理引擎 + 视频生成！输入一张图，让AI演给你看真实物理世界
WonderPlay将物理仿真与视频生成结合，从单张图像生成动态3D场景。它引入混合生成模拟器，形成物理求解器与视频生成器闭环。与其他方法对比，WonderPlay在多种场景和材质下表现更优。
AI在「赚钱锦标赛」夺冠，比人类还会做生意！躺赚时代要来了？
研究人员提出自动售货机运营模拟环境Vending - Bench，测试大模型智能体管理业务能力。实验显示不同大模型性能方差大，Claude 3.5 Sonnet净资产表现最佳，人类基线在可靠性上表现较好，各模型长周期表现波动大。
颜水成领衔，给AI分段位！超100款多模态模型，无人达到L5
十所顶尖高校联合发布General - Level评估框架和General - Bench基准数据集，用五级分类制明确多模态通才模型能力标准。评估超100款模型，发现多数在L2 - L3，无L5模型，揭示当前模型不足。
北大校友、OpenAI前安全副总裁Lilian Weng关于模型的新思考：Why We Think
北大校友Lilian Weng更新博客《Why We Think》，回顾利用测试时计算研究进展，探讨激励模型思考方式，介绍思维链、并行采样、序列修订等策略，还提及强化学习、外部工具使用及未来研究方向。
刚刚，ICML 2025录用结果公布！好评论文惨遭拒，审稿人敷衍引全网怒喷
ICML 2025录用结果公布，共提交12107篇有效投稿，3260篇被接收，录用率26.9%。此次评审质量遭热议，出现审稿人敷衍、评审错误等问题，同时展示了部分网友的论文录用和拒稿情况。