「安全监管」共找到 976 篇相关文章
刚刚，美国把天眼交给Palantir！绝密信件曝光: AI拿到美军正式编制
3月外媒报道，美国国防部副部长信件称，Palantir的Maven人工智能系统将被列为「项目编制」，监管将转移，未来合同由陆军负责。其武器目标识别技术将获长期应用，Maven能整合数据、识别目标，还与Claude助力美军打击伊朗目标。
全国首部“AI生成内容合规”标准，现公开征集起草单位和个人
随着AIGC转向产业落地，监管对生成内容管控成趋势。全国首个AI生成内容合规团体标准《人工智能生成内容合规管理指南》应运而生，它规范合规要求，还提供四大核心路径解决企业痛点，现征集起草单位和个人。
每天审200个PR、每月3000个Issue？智能体开始并行写代码，人类可能成最薄弱环节
本文是对微软 VS Code 团队工程经理 Kai Maetzel 的访谈。他回顾了 VS Code 发展历程，分享 AI 编程、智能体开发及开发者工具设计的实践思考，如 AI 补全体验优化、智能体开发权衡、与 IDE 交互机制等，还探讨了未来发展挑战与趋势。
NeurIPS 2025｜指哪打哪，可控对抗样本生成器来了！
近日，清华大学和蚂蚁数科在NeurIPS上联合提出Dual - Flow新型对抗攻击生成框架。它能从海量图像数据学“通用扰动规律”，对多模型、多类别发起黑盒攻击，为AI安全带来挑战，已用于蚂蚁数科产品。
硅谷一线创业者内部研讨：为什么只有 5%的 AI Agent 落地成功，他们做对了什么？
来自硅谷一线AI创业者数据显示，95%的AI Agent在生产环境部署失败，原因在于围绕模型搭建的脚手架不完善。文章基于研讨会内容，探讨AI Agent构建关键，如上下文工程、安全控制、记忆功能等，并指出待解决问题和未来方向。
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
技术大神用纯Rust从零构建了LLM，在GitHub上大火
Python是AI界宠儿，Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM，在GitHub上火了。Rust弥补了C/C++和Python的不足，Rust社区LLM项目增多，巨头也在布局。
谷歌前CEO深度专访：AI、智能体会重塑世界
谷歌前CEO Eric Schmidt在Ted专访中，从AI起点AlphaGo说起，阐述其从大模型到自主决策智能体的发展，还提及算力电力需求增长、监管、开源等问题，虽挑战多，但他对AI重塑世界充满信心。
无需标注和奖励模型！仅靠自信度RL，16个样本训练20步，效果飙升21%！
论文提出RLSC，让大语言模型用自身答案置信度作奖励信号，摆脱人类标注依赖。它以模型自信度内部信号替代多数投票外部信号，小成本提升模型数学能力，还让模型学会快推理，不过也存在安全隐忧。
菲尔兹奖得主预警：AI可能杀死数学！
今年菲尔兹奖得主多伦多大学教授Jacob Tsimerman宣布加入OpenAI从事AI安全研究，因其认为2年内AI将在数学证明领域超越人类。陶哲轩、Timothy Gowers等也对此表示担忧。《莱顿宣言》发布，众多数学家签名抵制AI对数学的冲击。