「人工智能安全」共找到 1358 篇相关文章
社区供稿丨迈向AI4S 2.0，上海AI实验室开源书生万亿科学大模型Intern-S1-Pro
2月4日，上海人工智能实验室开源万亿参数科学多模态大模型Intern - S1 - Pro，为AI4S迈向2.0时代提供开源基座。其核心能力跃升，架构创新，协同通用与科学能力，还构建‘算力 - 算法’基座，高质量开源赋能生态。
吴恩达年终总结：2025是AI工业时代的黎明
吴恩达发表2025人工智能年度总结与公开信。总结指出，今年推理模型性能提升但有成本，AI人才争夺激烈、薪酬高，数据中心建设投入大，智能体让编程更高效。信中建议通过学课程、动手实践和读论文构建AI系统。
NeurIPS 2025｜指哪打哪，可控对抗样本生成器来了！
近日，清华大学和蚂蚁数科在NeurIPS上联合提出Dual - Flow新型对抗攻击生成框架。它能从海量图像数据学“通用扰动规律”，对多模型、多类别发起黑盒攻击，为AI安全带来挑战，已用于蚂蚁数科产品。
GPT-5败下阵，这款中国AI拿下全球第一，众多医生已在用它做诊断
国家卫健委推进“人工智能+基层应用”，基层医生需实用AI助手。未来医生AI工作室的MedGPT在临床“安全”与“有效性”评测击败国际知名大模型夺冠，其两款助手获医生认可，被视为AI赋能基层医疗最佳实践。
中国医生需要怎样的AI？GPT-5、OpenEvidence都输掉实战后，我们有了答案
国家卫健委定调医疗AI未来五年核心目标为「人工智能+基层应用」，但基层医疗AI应用现状不佳。临床专家认为能帮基层的AI要安全有效、人机协同，「未来医生AI工作室」符合这些要点，其基座MedGPT表现出色。
机器人连续叠衣120分钟！仅用0.9B参数实现五大SOTA｜清华AIR & 上海AI Lab开源
清华大学智能产业研究院与上海人工智能实验室联合发布通用跨本体具身基座模型X-VLA。它是首个实现120min无辅助自主叠衣的全开源模型，仅0.9B参数量就在五大权威仿真基准刷新纪录。
硅谷一线创业者内部研讨：为什么只有 5%的 AI Agent 落地成功，他们做对了什么？
来自硅谷一线AI创业者数据显示，95%的AI Agent在生产环境部署失败，原因在于围绕模型搭建的脚手架不完善。文章基于研讨会内容，探讨AI Agent构建关键，如上下文工程、安全控制、记忆功能等，并指出待解决问题和未来方向。
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
技术大神用纯Rust从零构建了LLM，在GitHub上大火
Python是AI界宠儿，Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM，在GitHub上火了。Rust弥补了C/C++和Python的不足，Rust社区LLM项目增多，巨头也在布局。
交互扩展时代来临:创智复旦字节重磅发布AgentGym-RL，昇腾加持，开创智能体训练新范式
强化学习之父指出人工智能迈入「经验时代」，在此背景下，复旦、创智、字节研究者发布 AgentGym - RL 框架。它是全新端到端 RL 框架，提出 ScalingInter - RL 方法，7B 模型经训练追平顶尖商业模型，为 AI 发展注入动力。