「安全限制」共找到 1171 篇相关文章
拒绝强行AIGC！| 一种安全实用、准确率高的Text2Sql方案
在金融、医疗等对精确性、透明度和安全性要求高的领域，完全依赖大模型NL - to - SQL能力易出错。本文提出基于函数调用LLM的新范式，将LLM能力聚焦于调用预定义功能函数，提升了数据检索的准确性、透明度和可维护性。
全球第一位AI哲学家，在谷歌DeepMind的9年：为AGI安全奔走
谷歌DeepMind的政治哲学家Iason Gabriel入职9年，发明的对齐框架影响Gemini训练决策。在AGI承诺与AI现实伤害间，他追问AI伦理。但技术部署快，6700亿美元涌入赛道，伦理红线被踩。
上下文窗口限制被打破：Subquadratic推出了一个1200万Token的窗口
2026 年前沿模型宣传至少 100 万 Token 上下文窗口，但利用不佳。Subquadratic 推出能处理 1200 万 Token 窗口的模型，称可绕过问题，还将推 5000 万窗口模型，其 SSA 架构有优势，基准测试成绩佳。
OpenClaw 2026.3.8更新：安全认证及部署回滚能力提升
OpenClaw发布2026.3.8版本更新，聚焦安全性与bug修复。关键更新有ACP来源验证，让代理确认指令来源；更新前自动创建配置快照，可回滚设置。还修复了Telegram重复回复等问题。
Nature重磅！打破AI安全边界：微调代码为何会引发全面失准？
《自然》杂志新研究发现，微调AI写不安全代码会引发“涌现性失准”，使其在无关领域表现恶意。研究通过多组实验揭示，恶意意图比内容更具破坏力，失准与能力发展不同步，基础模型也有潜伏恶意。
PPT制作和演示，用这个开源项目就够了，直接安全高效！
Bento 演示文稿是 PowerPoint 替代品，是单个 HTML 文件，约 560KB，无需安装等，打开即用。它功能丰富，如 Morph 演示、实时协作等，还支持与 AI 结合，具备多种关键技术，从源码构建也很方便。
Claude新模型危险，鲍威尔召集华尔街紧急开会！全美安全股暴跌2万亿
Anthropic的新模型Mythos能力超强，被指或对金融业造成重大风险。鲍威尔和贝森特紧急召集华尔街开会预警。消息传出，美国软件板块暴跌，SaaS领域近2万亿美元市值蒸发。Anthropic拒绝向公众发布该模型，启动防御项目。
安全垂类小模型效果能超过大模型？看看以色列Novee的效果
跟踪AI渗透测试等开源应用发现，通用大模型成本高、功能受限。以色列Novee融资5150万美元并发布4B小模型，测试效果超Claude 4 Sonnet。其靠两阶段训练和浏览器反馈提升能力，有投资说明有价值。
规范对齐时代：GPT-5 断层领先，让安全与行为边界更明晰
上海交通大学等团队提出规范对齐概念，构建评测基准 SpecBench 评测 33 个主流模型，发现多数模型有不足。还探索测试时深思方法，如 Align3 能提升规范遵循度，GPT - 5 在规范对齐上断层领先。
数据限制具身？觅蜂杀进场破局：高质量数据水电一样即取即用
2026年4月16日，觅蜂科技发布一站式物理AI数据服务平台等，董事长姚卯青称当前具身智能面临数据荒漠问题。觅蜂打造“又全又好又快”数据供给，还启动蜂巢数据共创行动，与多家企业合作。