「工程概念」共找到 1024 篇相关文章
可攻可防，越狱成功率近90%！六大主流模型全中招 | EMNLP'25
研究人员聚焦大型语言模型（LLMs）安全漏洞，提出全新越狱攻击范式SCP与防御策略POSD。SCP基于DTD机制，在6个主流模型上平均攻击成功率达87.23%；POSD能有效抵御攻击，还提升模型泛化能力。
AISPM与AI防火墙--是产品不同，还是名字不同？
文章探讨AISPM与AI防火墙是产品不同还是名字不同。介绍xSPM概念及AISPM定义，分析国内AI防火墙应对威胁能力，指出AISPM更强调过程管理，未来AISPM对维护AI安全至关重要。
首个MCP架构、只50行代码就能实现高效RAG的开源框架UltraRAG 2.0
检索增强生成系统（RAG）复杂度提升，使科研人员面临高昂工程实现成本。清华大学、东北大学、OpenBMB等联合推出UltraRAG 2.0，基于MCP架构，降低技术门槛与学习成本，让科研专注创新。
大模型解数学题是真懂还是 “死记硬背”？｜首个反例驱动的数学推理基准揭穿 “刷题式假象”！
随着大语言模型在数学领域应用渐广，其是否真具备数学推理能力成焦点。清华等团队提出反例推理评测基准COUNTERMATH，测试20+主流模型，结果不佳，而小样本微调能显著提升模型能力。
2025全球大模型应用报告：红海混战「忠诚度」瓦解，用户脚踏4.7条船！
2025年上半年大模型从技术走向生产，45%企业将其用于生产环境。用户付费方式多样，使用面临知识不足、成本高的挑战。市场红海竞争，用户平均用4.7家大模型，国产模型出海需借第三国。
刚刚，OpenAI推出学习模式，AI教师真来了，系统提示词已泄露
今天凌晨，ChatGPT 迎来重磅更新，推出 Study Mode（学习模式）。该模式下，ChatGPT 会帮助用户一步步解决问题，化身导师引导学习。它有交互式提示等多种功能，免费用户也能用，系统提示词还被公开。
突发 | Meta 挖走的OpenAI 核心研究员Jason Wei，离职前留下这样的一段话
OpenAI研究员Jason Wei和Hyung Won Chung跳槽至Meta，Wei在离职前发推文分享强化学习感悟及验证不对称性概念，引发网友猜测与共鸣，这场AI人才争夺战正愈演愈烈。
在软件工程中，对 AI 的过度依赖，会加速工程师的无能
资深软件工程师Doug Slater指出，在软件工程中对大语言模型（LLM）过度依赖会加速工程师无能。LLM无法取代人类批判性思维，它在输出、输入、开发速度和用户技能等方面存在风险，且无法掌握程序理论和抵抗程序熵。
Google | 溯源分析RAG系统错误，提出选择性生成框架，让RAG问答准确率提升10%
Google对RAG系统错误深入分析，引入‘充分上下文’概念，指出幻觉或因上下文不足。构建评估器，提出选择性生成框架，结合多信号决策，实验显示可让RAG问答准确率最高提升10%。
郎园 Station活动｜当 AI 遇见生命科技 爱康 AI 生命展落地仓酷
8月19 - 22日，爱康AI生命展落地郎园Station仓酷。展览将艺术、光影与科技融入空间，结合AIGC与医学科普，设七大展区，呈现AI与精准医学碰撞的可能，让健康管理更直观可感。