「安全框架」共找到 2465 篇相关文章
【万字长文】大模型开源开发全景与趋势解读
本文以蚂蚁开源团队视角，基于OpenDigger数据，分析大模型开源开发生态。呈现2025年全景图，涵盖135项目。指出训练、推理、应用侧主导领域，还探讨生态趋势、项目兴衰及近期厂商动态。
Palo Alto5亿美元收购的Portect AI都有什么产品和技术？
2025年4月25日，Palo Alto Networks超5亿美元收购Protect AI，为客户提供端到端人工智能安全保障。Protect AI有两个开源软件ModalScan、LLM Guard和三个平台产品Gardian、Recon、Layer，防护方案完整。
颠覆金融分析！多智能体AI股票分析师震撼登场!
多智能体AI股票分析师登场，由股票分析与报告撰写两智能体组成，通过CrewAI框架协作。用Streamlit构建界面，结合YFinance等获取数据，可30秒内生成含买卖建议报告。
LoRA中到底有多少参数冗余？新研究：砍掉95%都能保持高性能
这篇创新研究介绍了LoRI技术，证明即使大幅减少LoRA的可训练参数，模型性能依然强劲。研究团队在多个任务上测试了LoRI，发现仅训练LoRA参数的5%，LoRI就能匹配或超越其他方法的性能。
当AI幻觉开始操作电脑：深大、港科大提出ECA，让Agent行动前先验证证据
本文针对Agent场景下AI幻觉会转化为实际错误操作的问题，介绍深圳大学与香港科技大学提出的ECA框架，通过独立验证加门控检查降低不安全执行风险，给出测试数据验证方案有效性。
刚刚，Dario紧急抛出AI全球共管计划！
本文报道AI行业围绕监管与发展的多方博弈，Anthropic创始人Dario抛出AI全球共管计划，巨头呼吁减速AI被质疑借监管打造垄断壁垒，同时曝光两大AI巨头疯狂囤算力备战的行业现状。
Claude 5.1双旗舰突然发布：跑分屠榜，反蒸馏，科研能力大幅跃升，缓存费用暴降75%
Anthropic发布Claude Fable 5.1和Claude Mythos 5.1两款大模型，性能登顶且解决开发者关注问题。缓存读取费用降75%，跑分屠榜，科研能力强，安全系统重构，合作实测效果好，盲测风格与GPT - 5.6 Sol不同。
The Batch: 969 | 谷歌的机器人模型有了腿
谷歌发布 Gemini Robotics 2（GR2），能将相机图像和文字指令转为机器人关节控制命令，可同时控制人形机器人腿、躯干、手臂和手部，简化模型训练和设计，不过谷歌未公布其基础模型等信息。
刚刚开源就收藏 1000+ 收藏的 DeepSeek Harness 橙皮书，它把Harness拆解个遍！
DeepSeek Harness开源同日，《DeepSeek Harness：从开机到拆开》上线。作者花叔实测记录大量官方文档未写的细节，如完整系统提示词、出厂启动清单等，全书分四部分，获取方式简单。
Claude Opus 5 发布，比 Fable 5 强，仅一半价格
Claude Opus 5发布，官方称其以一半价格提供接近Fable 5的智能。跑分显示它多数项目超Fable 5，ARC - AGI - 3成绩突出，还更省token，是Anthropic迄今对齐度最高的模型。