「开源安全」共找到 4544 篇相关文章
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
劝人退学、庆幸没读博浪费5年，26岁DeepMind“传奇人物”：大厂内部分散，AI研究很低效
26岁的Neel Nanda是DeepMind“传奇人物”，他涉足机械可解释性研究四年成果丰硕。在与主持人对话中，他分享经验，认为大厂内部分散、AI研究低效，还谈及读博、AI安全研究、公司决策等看法。
超级AI云，未来10年阿里云的核心战略 | 甲子光年
9月24日，阿里云CEO吴泳铭在云栖大会给出发展方向，要成全栈人工智能服务商。其All in AI，构建云基础设施、开源通义千问、布局Agent应用，按三阶段演进路线迈向ASI，还将加大投入提升数据中心能耗。
狂揽6.9K star！！微软又来一款王炸项目，实时跟踪、透明可控，牛皮！
微软开源项目Magentic-UI狂揽6.9K star。它是“以人为本”网页智能助手，基于AutoGen框架，可让用户全程掌控，能实时跟踪、透明可控，有协同规划等功能，适合测试、分析等人员。
200K上下文突破：AI编程新星Augment崛起
AI编程新星Augment以65.4%的SWE - bench评分登顶榜首，估值超128亿美元。它能理解海量代码上下文，支持多环境集成。但新式AI编程工具存在安全风险，如Agent Memory恶意攻击等，文中给出应对建议。
时隔两月，Mistral AI终于上新Medium 3，近期还有「One more thing」
时隔两月，Mistral AI 推出 Mistral Medium 3，性能介于轻量级和大规模模型间，优于 GPT - 4o 等。未开源，可通过官网等使用，专为企业设计，成本低。还预告将推「大型」产品，同时推出企业聊天机器人 Le Chat Enterprise。
Paper2Page: 让每一篇论文都能“自己长出”一个项目主页
AI领域论文众多，研究者难让工作脱颖而出，精美项目主页很重要但制作繁琐。AutoPage是多智能体协作框架，能将论文一键转为项目主页，经三步协作，在速度、成本、质量等方面表现出色，代码已开源。
Qwen3新成员：Embedding系列模型登场！
今天正式发布Qwen3-Embedding系列模型，专为文本表征等任务设计，继承Qwen3多语言理解优势。在多项基准测试表现卓越，已在多平台开源，有卓越泛化性、灵活架构与多语言支持等特点。
Anthropic 黑客松冠军开源神作！3 万人收藏的神级 Claude Code 升级包！
Claude Code在处理复杂项目时存‘记性不好’等问题，单打独斗难敌复杂工程需求。Anthropic黑客松冠军得主开源Everything Claude Code项目，涵盖多模块，是系统化AI协作体系，已获30K+ Star。
Thinking Machines再发文：模块化流形让训练更稳定
Mira Murati团队分享神经网络训练推理新研究，提出“模块化流形”让训练更稳定。将权重约束在Stiefel流形，设计Manifold Muon优化器，实验显示效果好，但计算开销和理论问题待解决，代码已开源。