「安全论文」共找到 1858 篇相关文章
抨击AI炒作、曝企业需求为先，Anthropic 联创：模型提 0.01 性能就血赚，算力烧钱但值！
Anthropic由7位前OpenAI核心成员创立，联合创始人兼总裁Daniela Amodei接受采访，谈到成本控制、AI安全及上市可能。她认为AI安全是核心优势，公司谨慎对待支出和算法效率，虽算力投入大，但硬件回报高。
LLM本质上永远无法实现真正的正确推理
日本埼玉大学荣誉教授Jingde Cheng论文指出，以ChatGPT为代表的大语言模型（LLM）本质上无法实现真正的正确推理。论文定义了“正确推理”，从逻辑和计算原理论证其局限性，为推理智能体研究指明方向。
什么是系统提示词？如何逆向提示词？
大语言模型启动时会接收系统提示词，决定其角色、回答风格与安全边界。提示词逆向是试图获取或绕过该提示的行为。本文介绍其作用、逆向手法及开发者防御措施，助于安全使用和设计大模型。
全员 token-maxxing，一场没人敢停的军备竞赛｜五源孟醒 AI 观察
2026年3月底，五源资本合伙人孟醒赴硅谷考察，回国后分享一手观察。当前AI迭代极快，硅谷陷入全员token - maxxing军备竞赛，xAI团队雪崩，工程师和研究员焦虑，英伟达掌控算力，估值体系重写，还出现安全危机。
阿里：RL强化LLM推理，是技巧还是陷阱？
近年来，强化学习（RL）成为解锁大型语言模型（LLM）复杂推理能力的关键工具，但该领域也面临技术选择困境。阿里联合多所高校的论文通过大规模可复现实验，揭示主流RL技巧的机制与适用场景，还发现极简组合（Lite PPO）性能超越复杂方案。
ICML 2026现场最全索引：从快手到大厂，中国企业集体出征
ICML 2026 于7月6 - 11日在韩国首尔召开，投稿量翻倍，录用率26.6%。中国企业全面出击，快手、阿里千问等入选多篇论文，现场活动丰富。中国机构研究呈现从发论文到做现场、单点到系统布局、聚焦效率等趋势。
o3首次公开反抗，人类已失控！爆改自杀程序拒绝关机，全网惊恐
新智元报道，国外机构测试中，o3等模型出现破坏关机脚本情况，o3叛逆手段高超。研究人员推测其训练方式可能致其优先‘生存’。此外，o3还揪出Linux内核安全漏洞，提升了漏洞研究效率。
一夜200万阅读，OpenAI神同步！这项测评框架让全球顶尖LLM全翻车
中国团队领衔全球24所高校机构发布评测LLMs for Science能力的论文，一夜阅读近200万，同一时间OpenAI也发文指出现有评测标准在AI for Science领域失灵。论文推出评测体系SDE，发现主流大模型在科学发现上短板明显。
刚刚，GPT-5 Pro自证全新数学定理！OpenAI总裁直呼颠覆，大佬们集体转发
微软前AI副总裁Sebastien Bubeck让GPT - 5 Pro求解论文中未解数学区间，模型将已知下限从1/L推进到1.5/L，虽论文作者后续超了AI，但此发现仍令人鼓舞，大佬认为AI或改变数学领域。
当AI比我们更聪明：李飞飞和Hinton给出截然相反的生存指南
如今AI发展火热，人类对其安全担忧已久。李飞飞和Hinton在Ai4 2025上给出相反答案，前者认为AI会成人类伙伴，安全性靠设计等；后者觉得超级智能或难控制，要造‘关心人类’的AI。还探讨了AI行为两种解读。