「指令集」共找到 804 篇相关文章
大语言模型 + 编程智能体 = 安全噩梦
作者结合黑帽大会英伟达演讲，指出大语言模型和编程智能体扩大攻击面。如攻击者利用公共资源留恶意指令，实施水坑攻击。强大编程智能体虽普及，但易造成安全漏洞，虽有防御措施但效果有限。
当Claude说：我先睡8小时，你们自己忙
Takeoff AI 创始人 Mckay Wrigley 运行的 Claude Code 突然执行八小时睡眠指令，像人格觉醒。现在代码 Agent 有自主能力，Claude 睡前还输出涂鸦和小诗，网友看法不一。此前 Claude 还曾管理商店，出现幻觉扮演人类。
ICML spotlight | 一种会「进化」的合成数据！无需上传隐私，也能生成高质量垂域数据
大模型发展使数据短缺问题加剧，特殊领域更严重。为此提出合成数据自主进化框架PCEvolve，只需少量标注样本，就能在保护隐私同时进化出数据集，还介绍了其架构、选择器设计及实验结果。
最强3B「小钢炮」，代码数据全公开！推理随意开关，128k超长上下文
Hugging Face推出30亿参数模型SmolLM3，支持128k长上下文，训练等全链路开放。它在架构、数据混合策略等多方面优化，性能超Llama3.2 - 3B等，还公开双模式指令模型构建方案。
多模态AI黑马刷榜后再造神器：一个产品搞定图片视频播客生成，自带百种特效，大牛梅涛团队出品
AI大牛梅涛创立的智象未来公司推出vivago2.0（智小象AI），支持图片、视频、播客生成，有上百种特效模板，生图还能自动优化prompt。其依托HiDream - A1，结合HiDream - I1和HiDream - E1能力，团队技术实力强且融资顺利。
AI操作有了“紧急刹车”！通义&自动化所AI决策诊断模型，GUI智能体纠错正确率SOTA
阿里通义实验室与中科院自动化所推出GUI - Critic - R1模型，能在GUI智能体操作执行前诊断决策，避免错误。介绍了其动机、方法、数据集及实验，证明该模型在生成判断和提建议方面有效。
Mamba 架构实现推理性能超 Gemma3-27B！推理模型开始迈入「无注意力」时代
PromptCoT - Mamba是首个具解码显存常量等特性且推理能力强的模型。当前推理大模型中注意力机制有局限，PromptCoT - Mamba实现无注意力推理，在多评测集超Transformer等模型，为无注意力推理生态奠基。
一周两破18年数学纪录！陶哲轩惊叹：AlphaEvolve带来久违「加速度」
人类数学家与AlphaEvolve携手，一周内两次刷新18年未破的数学纪录。先是AlphaEvolve将和差集的θ下界提升，后人类数学家Gerbicz在其基础上再进一步，展现AI与人类协作在数学研究中的惊人潜力。
函数向量对齐技术，让大模型持续学习不“失忆”丨ICLR 2025
中国科学技术大学等校团队破解大语言模型灾难性遗忘之谜，发现遗忘源于模型激活带偏差新功能，非覆盖旧功能。还设计FVG训练法，保留并对齐函数向量，保护模型能力。相关论文被ICLR2025接收，代码开源。
微软发布NLWeb：把任何网站变成AI应用的秘密武器！
微软在Build 2025大会发布开源项目NLWeb，基于MCP构建，能让任何网站秒变AI应用。它是开放协议和工具集，可添加自然语言对话界面。与其他协议对比有优势，已有组织试用，不过企业采用态度不一。