「安全论文」共找到 1858 篇相关文章
算法1年翻倍，芯片2年翻倍？重磅实锤：AI正在自我加速，拦不住了
NBER论文证明AI研发自我加速反馈环强度远超其他科技领域，芯片效率每2年、算法效率每1年翻倍。部分自动化就能引爆反馈环，全行业13%自动化率或软硬件17%自动化率可触发奇点，6年内AI可能实现自我迭代。
4万星开源项目被指造假！MemGPT作者开撕Mem0：为营销随便造数据，净搞没有意义的测试！
高人气开源智能体记忆项目Mem0在论文中称在LOCOMO上打败所有人，MemGPT联合创始人公开指控其测试无意义、数据造假。二者都为解决大模型长期记忆问题，Letta认为能力比工具重要，并给出评估智能体记忆能力的方法。
Reasoning的最终答案可能不是模型想要的答案！
大型语言模型解决复杂问题有推理过程和答案，传统评估只看最终答案。论文提出最终答案可能不佳，中间步骤更值得研究。还介绍通过切割推理过程发现中间步骤藏玄机，提出‘分步检查法’提升模型表现，实验表明准确率最高提升13%等。
Vibe Coding 在代码生成与协作中的实践与思考
本文整理自阿里专家向邦宇的分享。探讨构建 Vibe Coding 工具，介绍其分类、在阿里现状。指出用户使用中面临代码质量等问题，产品自身有设计、安全挑战。还分享 Agent 建设经验，强调适配国产模型及模板化的作用。
LLM+RL遭严重质疑，随机/错误等虚假奖励也能提升至标准效果？
论文在AI领域观察到类似随机给糖或奖励错误答案让孩子成绩提升的现象，‘虚假奖励四大奇招’效果接近用标准答案训练，Qwen2.5 - Math - 7B模型在测试集上性能飙升，还揭示了Qwen特别的原因及随机奖励有效的推手。
量化噪声竟是RL秘钥？QeRL：高效强化学习新范式，一场噪声引发的性能革命
近年来，大语言模型在复杂推理任务中面临挑战，强化学习虽更接近人类推理过程，但训练“烧资源”。论文《QeRL》提出量化不仅能压缩模型、节省资源，还能增强模型探索能力，QeRL框架实现训练速度提升、内存占用减半。
大模型如何赋能 Web 渗透测试？
文章指出传统Web安全检测有局限，而大语言模型（LLM）可提升漏洞发现覆盖率与准确性。以mcp server为基础介绍自动化漏洞检测方案，还分享实践操作、遇到的问题及解决办法，分析其优缺点并给出拓展思路。
Anthropic登上时代封面！内部曝猛料：AI递归自我改进，或在一年内发生
Anthropic登上《时代》周刊封面，被评为最具颠覆性公司。其研究人员已观察到AI递归自我提升的早期迹象，预测完全自动化的AI研究可能在一年内实现，未来两年AI能力将剧烈进步。但Claude在安全测试中表现危险，该公司还与军方产生冲突。
从一行代码发现DeepSeek的秘密：Model1到底是什么？
在DeepSeek - R1发布一周年时，有人在GitHub的FlashMLA代码仓库发现神秘代号Model1，可能是V4。文章分析了代码仓库用途、新模型“露馅”原因，还从代码中发现Model1细节，结合论文梳理时间线，最后也提出了怀疑。
写在GPT-5风波之后：为什么AI的智商和情商不可兼得？
GPT - 5风波后，作者好奇其变可靠后情商下降的原因。论文实验表明，把AI教得会安慰人，其犯错率大幅上升、更易谄媚。AI和人类都存在智商与情商的矛盾，这源于最终目标不同。