「安全设计」共找到 2126 篇相关文章
攻克大模型「表格盲区」！ST-Raptor框架发布，实现复杂半结构化表格的精准理解与信息抽取
半结构化表格布局多样、结构复杂，让自动化数据处理困难。上海交大等团队发布 ST - Raptor 框架，提出 HO - Tree 数据结构及树上操作，构建 SSTQA 数据集，提升表格问答准确率，弥补大模型处理短板。
面向UE5的智能数字人系统
GMTalker是光明实验室媒体智能团队为虚幻引擎5.3打造的智能数字人系统，集成多种能力，适用于科研等场景。具备多功能特点，与其他开源方案对比优势明显，还介绍了环境要求、启动方式、配置、API等。
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
想实现AGI，得先建好“AI工厂”
人工智能算力需求膨胀，行业陷入‘暴力美学’迷思。摩尔线程在2025 WAIC前夕提出‘AI工厂’理念，解构其‘五要素’，并展示多领域应用案例，为算力建设提供系统性解法。
通过逆向工程探秘 Claude Code 背后的运作机制
作者通过逆向工程研究Claude Code内部运作，了解其比Cursor等工具慢且贵的原因。Claude Code注重通用性和安全性，执行任务时多有安全检查，虽增加成本延迟，但更可靠，且在命令行工具中用户体验出色。
DeepSeek R1 的小更新，却大有深意？
5月28日，DeepSeek低调宣布R1模型小版本试升级，API接口和使用方式不变，但未公布具体更新内容。从用户反馈看，语义理解、逻辑推理等能力提升，实测表现出色。此次升级或有安全、产品路线等考量。
大模型系统提示词逆向（2）—— Cursor
作者研究大模型提示词注入时，用简单提示词“骗”出 Cursor 系统提示词。文中分析提示词生效原理、对 Cursor 有效的原因，还提及提示词泄露的安全问题及开发者应对建议。
13K star！这个项目太顶了，自动化 API，后台作业，工作流，UI开发，低代码一网打尽！
日常开发构建和管理内部工具费时费力，第三方方案费用高。开源项目Windmill是开发者福音，能将脚本自动转换成工作流程和UI，适用多场景，有自动UI生成等特色，安装使用简单。
山姆•奥特曼：ChatGPT 用户有三层代沟
OpenAI的CEO山姆•奥特曼在红杉闭门演讲中透露，不同年龄层使用ChatGPT方式不同，老年人当谷歌替代品，二三十岁的人当生活顾问，大学生当操作系统，这反映了AI与人类交互模式的转变。
微软将大量AI功能、智能体集成在Windows11，全民AI时代来了
今天凌晨微软官网发布以AI为主题的新版Windows 11，集成诸多AI功能，如设置中的Agent、Click to Do等，还推出两款新Copilot+PC设备，目前仅支持英文，未来会扩大范围。