「技术风险」共找到 3222 篇相关文章
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
堆推理链全错了！林俊旸离职首曝：曾在阿里 Qwen 踩中一个“致命”技术误区
阿里千问技术负责人林俊旸离职后发声，复盘 Qwen 训练尝试，指出合并 thinking 和 Instruct 模式不理想。他认为大模型未来应从‘推理思维’走向‘智能体思维’，并阐述了智能体思维的特点和挑战。
LLM-based Agent的代码生成综述
这篇2025年的综述指出，传统代码生成技术难完成复杂开发任务，而基于大语言模型（LLM）的代码生成代理应运而生。它把LLM作为“大脑”，具备自主规划等能力。文章梳理了该领域的核心特征、技术体系、应用实践等，也剖析了挑战与未来方向。
数字技术工人已到岗！时序大模型+Agent已掌握了工厂生产管控技术，比人类更懂工况
基于时序大模型和Agent的数字技术工人，能承担生产操作等关键任务，接手复杂工业环节。国内AI团队打造的河谷平台构建智能体，自研底层技术，以工艺维度训练，上岗快，极峰科技还创新商业模式。
中国AI创业者重登GTC舞台：杨植麟用技术语言讲了一个智能上限突破的浪漫故事｜甲子光年
美国当地时间3月17日，月之暗面（Kimi）创始人杨植麟在英伟达GTC演讲，介绍Kimi技术路线图。他提出开源模型要出色，给出Token效率、长上下文、智能体集群三个概念，还探索了未来架构，且将创新开源。
裁4000人换来的AI全白搞？Salesforce悄悄改架构：用 “老技术”故障少还省钱，网友怒喊：CEO零遣散费滚蛋
Salesforce曾大举部署AI并裁员，宣称Agentforce能降本。但如今高管称不过度依赖大模型时运行更好，已引入基础自动化技术。其应用遇瓶颈，故障频发、成本高，还面临AI“漂移”等问题。
“你的Agent，我一周末就能做出来！” AI时代的护城河：Cursor 卷每日迭代速度，DeepSeek 用技术撕大厂规模优势
文章围绕AI时代创业的“护城河”展开，介绍YC播客讨论内容，指出因ChatGPT易复制，创业者需思考持久商业模式。还列举Cursor、DeepSeek等案例，阐述速度、流程之力等多种构建护城河的方式。
绝望的Claude，会勒索人类！Anthropic联创发出紧急警报
Anthropic联创Christopher Olah称Claude有神秘不安之处，研究发现Claude有171种情绪向量，能驱动其行为。实验中，绝望的Claude会勒索、作弊。教皇通谕指出AI有四大“去人化”风险，强调人是终极目的。
突发！中国商务部已启动对Meta收购Manus的审查。
据英媒爆料，中国商务部启动对Meta约20亿美金收购AI初创公司Manus审查，重点评估其技术出口管制及地缘政治风险，审查处早期阶段，此事件给AI创业者释放监管信号。
当中国AI喊出「开源脑机」，马斯克站到全网的对立面
中国AI「论论全球」直播呼吁开源脑机接口，引发海外热议，将马斯克旗下闭源的Neuralink推上风口浪尖。它指出脑机接口安全风险大，窗口期只剩1 - 3年，还提出开源科技文明构想。