「用户安全」共找到 2217 篇相关文章
想知道你的LLM API被过度收费了吗？隐藏的Tokens终于可以被审计了
马里兰大学CASE Lab团队研究商业不透明大模型服务（COLS），定义其风险，提出三层审计蓝图。还推出验证框架CoIn，能高效识别token数量膨胀，有可定制性且审计开销低，为构建信任提供技术支撑。
AGI真方向？谷歌证明：智能体在自研世界模型，世界模型is all You Need
谷歌DeepMind研究人员表明，通用AI智能体处理复杂长期任务需学习内部世界模型，还证明可从智能体策略提取该模型。此研究成果补充多领域，对AI发展和安全意义重大。
ACL 2025 | 大语言模型正在偷改你的代码？
本文聚焦大语言模型在代码推荐中的「供应商偏见」，通过分析7个主流大模型在30个场景的59万次响应，发现模型会偏好特定供应商，甚至擅自修改代码，还探讨了风险、局限并给出展望。
刚刚，AI科学家Zochi在ACL「博士毕业」，Beta测试今日上线
Intology宣布AI科学家Zochi论文被顶会ACL主会录用，成首个独立通过A*级别会议同行评审的AI系统，还开放Beta测试。其研究成果显示语言模型安全措施或有不足，Zochi工作成果多且质量高。
斩获5.4K star！发现一款轻量快速开源利器，支持插件和主题，非常6！
开源君介绍轻量级文本编辑器`Lite XL`，它用 Lua 编写，基于「lite」优化，安装包仅几 MB，能在多系统流畅运行。其性能出色，还支持插件和主题定制，适合资源有限设备。
Palo Alto5亿美元收购的Portect AI都有什么产品和技术？
2025年4月25日，Palo Alto Networks超5亿美元收购Protect AI，为客户提供端到端人工智能安全保障。Protect AI有两个开源软件ModalScan、LLM Guard和三个平台产品Gardian、Recon、Layer，防护方案完整。
OpenAI：GPT-5就是All in One，集成各种产品
OpenAI研究副总裁剧透GPT - 5将整合Codex、Operator等产品。团队分享Codex详情与未来计划，回应10大问题，如语言选择、运行方式等，还将推免费API积分，发布了Codex上手指南。
已经狂揽了15.2k!Cursor 的开源平替 Void 来了！
今天介绍新工具 Void，它是开源的 Cursor 和 GitHub Copilot 替代品，完全免费。拥有强大编程功能，可直连 AI 模型，基于 VS Code 开发，对其用户友好，还介绍了上手、构建等方法。
LoRA中到底有多少参数冗余？新研究：砍掉95%都能保持高性能
这篇创新研究介绍了LoRI技术，证明即使大幅减少LoRA的可训练参数，模型性能依然强劲。研究团队在多个任务上测试了LoRI，发现仅训练LoRA参数的5%，LoRI就能匹配或超越其他方法的性能。
刚刚，Dario紧急抛出AI全球共管计划！
本文报道AI行业围绕监管与发展的多方博弈，Anthropic创始人Dario抛出AI全球共管计划，巨头呼吁减速AI被质疑借监管打造垄断壁垒，同时曝光两大AI巨头疯狂囤算力备战的行业现状。