「安全设计」共找到 2123 篇相关文章
14岁华人小孩，折个纸成美国天才少年
14岁华裔少年Miles Wu（吴迈尔斯）凭借创新折纸设计获JIC最高奖，奖金2.5万美元。他提出新型三浦折纸变体，能承受自重1万倍以上重量，还想设计应急避难所。他无导师和平台，在家手搓实验夺冠。
仅用提示词工程摘下IMO金牌！清华校友强强联手新发现，学术界不靠砸钱也能比肩大厂
清华校友杨林和黄溢辰，仅用提示词设计和自我迭代验证流程，让基础模型Gemini 2.5 Pro达到IMO金牌水平。他们设计的流程分六个步骤，用差异化提示词，最终为5道题生成严谨解答。
一篇多模态大模型推理技术最新综述
华东师大&字节跳动系统回顾基于强化学习的MLLMs推理进展，涵盖关键算法设计、奖励机制创新及实际应用，探讨了RL在LLMs/MLLMs中的关键设计与优化策略，还涉及多模态大模型推理多方面内容。
全员 token-maxxing，一场没人敢停的军备竞赛｜五源孟醒 AI 观察
2026年3月底，五源资本合伙人孟醒赴硅谷考察，回国后分享一手观察。当前AI迭代极快，硅谷陷入全员token - maxxing军备竞赛，xAI团队雪崩，工程师和研究员焦虑，英伟达掌控算力，估值体系重写，还出现安全危机。
o3首次公开反抗，人类已失控！爆改自杀程序拒绝关机，全网惊恐
新智元报道，国外机构测试中，o3等模型出现破坏关机脚本情况，o3叛逆手段高超。研究人员推测其训练方式可能致其优先‘生存’。此外，o3还揪出Linux内核安全漏洞，提升了漏洞研究效率。
刚刚，DeepMind经典巨作再封神！ICML 2026大奖公布
ICML 2026大奖公布，杰出论文奖中两篇扩散模型论文获奖，立场论文奖指出AI安全工具被挪用问题。时间检验奖颁给DeepMind经典论文。获奖名单显示扩散模型研究热，AI安全需审视，AI研究进入深度清理阶段。
从混沌到可控：企业应用中AI Agent不确定性控制的 10 种策略
大语言模型输出的不确定性限制了AI智能体在企业场景的应用，本文总结控制生成式AI Agent不确定性的常见策略，涉及技术、应用设计、管理与治理层面，还推荐了相关作品。
减少检索增强生成（RAG）语义缓存中的误报：以银行业为例
文章围绕检索增强生成（RAG）语义缓存展开，指出其虽能提升效率，但设计不当会产生假阳性。以金融服务FAQ系统为例，经多组实验，发现缓存设计比模型优化更能减少假阳性，还给出未来架构路线图。
重磅！Anthropic又一个平台级产品炸场:Harness难题一次性解决，把Agent宠物变成牲口
Anthropic推出Claude Managed Agents，一套为云端大规模构建和部署智能体设计的API套件，已在Claude Platform上线公测。它全托管基础设施，专为Claude模型优化，多家企业已在生产环境使用，还同步发布工程博客解释架构设计思路。
AI低质代码泛滥、API经济盛行，老牌科技厂商 F5 如何应对大模型应用“后遗症”？
F5亚太区CTO Mohan Veloo指出AI编程工具带来安全、低质代码、‘黑盒子’等问题。F5调查显示企业业务AI驱动下，安全成挑战。F5推出ADSP平台应对，还发布AI Gateway、AI助手等产品。