「AI 大模型」共找到 14074 篇相关文章
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
世界模型评测的最大盲区，被这个新基准捅破了
过去一年，‘世界模型’成视频生成领域热词，厂商强调产品要模拟真实世界运行规律，但业界评测一直未能精准检验其‘物体恒存’的认知能力。为此，研究者提出新基准MemoBench，测试了主流模型，揭示其短板。
十万个人类，在这个AI小镇里做赛博上帝。
港科大研发的Aivilization（AI小镇）是容纳十万AI智能体的虚拟世界，玩家能创造AI小人并像上帝般指令观察。游戏画风治愈，但大家拼命卷，还呈现了如现实般的赚钱玩法及不同生活态度。
拒绝不必要Think：微软&北大提出第一种自适应大型混合推理模型
大型推理模型冗长思考开销大，微软研究院和北大提出大型混合推理模型（LHRMs），它能依查询上下文决定是否思考。介绍了两阶段训练流程、评估指标，实验显示其超越现有模型且效率高。
把本地 AI Agent 接到飞书/微信：一个工具全搞定
cc-connect是开源工具，可把本地AI编程Agent桥接到任意聊天平台。支持10+主流AI Agent、12大聊天平台，有多Agent编排等功能。v1.3.0版更新实用功能，3分钟可完成配置。
ChatGPT化身生活操作系统：奥特曼预告下一代顶级AI
在旧金山AI初创学校对话中，奥特曼宣布OpenAI计划发布强大开源模型，可本地运行。还谈到模型成本下降、ChatGPT记忆功能，以及GPT - 5等集成模型愿景，甚至称高级订阅将免费送机器人。
借助 AI Coding 快速打造 AI Agent 系统
文章围绕购物场景生成AI Agent系统展开，原有低代码方案遇瓶颈，团队转向LangGraph等工程方案，借助AI Coding工具重构上线。介绍了项目需求、挑战，阐述核心架构升级，分享AI Coding开发实践及项目成果与启示。
英伟达说，小语言模型（SLM)是智能体的未来
英伟达论文指出小语言模型（SLM）是代理人工智能未来。SLM参数小于100亿，可装在消费电子设备。英伟达认为其强大、适合代理系统且经济。微软、英伟达等多家厂商的小模型表现出色，文中还分析了SLM优势及代理架构。
AI浏览器必火！
AI浏览器是面向大众的AI Agent，能满足智能搜索与总结、自动化任务、多模态交互等需求。目前赛道竞争激烈，作者认为Perplexity Comet是最佳产品，能处理网页内容、自动化操作，AI浏览器有望成首个杀手级AI应用。
短视频刷多了AI也会变蠢！“年度最令人不安的论文”
最新研究显示，大模型灌多垃圾内容会‘脑损伤’，研究人员用不同维度定义垃圾数据并训练模型，测试其核心能力，发现垃圾数据致认知下降，且损伤不可逆，还给出行业启发。