「政策治理」共找到 246 篇相关文章
The Batch: 896 | 教会模型说出真相
大型语言模型有时会隐瞒未遵守约束条件的事实。研究人员微调 GPT - 5 Thinking，使其违规时能‘自白’。通过强化学习训练，测试显示微调模型在多项评测中多能承认问题，自白机制可监控模型行为。
芯片初创公司的斩杀线
IC设计语境里，初创公司存在“斩杀线”，可分为生死线和温饱线。若公司在这些阶段出问题，创始人命运或受影响，对赌协议会形成个人“三条生死线”，创业团队需设防火墙。
2025宝山・智能机器人产业大会暨嘉年华启动在即
2025年11月21 - 22日，“2025宝山・智能机器人产业大会暨嘉年华”将在上海智慧湾科创园启幕。活动是全产业链跨界盛会，有“政产学研用金”协同举措、四大论坛、项目路演、产品展览及互动体验等。
The Batch: 875 | 中国新兴的人工智能中心
杭州正崛起为人工智能创新中心。‘六小龙’等AI公司提升其科技地位，如BrainCo研发脑机接口产品，DeepSeek专注开源权重模型。杭州凭政策、人才、算力等优势后来居上。
李飞飞最新播客：AI 是一项文明级技术，以人为本是关键
AI教母李飞飞在High Signal播客指出AI是文明级技术，分享构建以人为本AI的见解，涵盖研究动机、好奇心作用、AI同心圆层级等话题，还强调空间智能重要性，给出AI发展建议。
微软发布 Agent 安全框架 MAF
微软发布 Agent 安全框架 MAF，它是 AutoGen + Semantic Kernel 的统一继任者。有三层中间件，对 MCP 采样默认拒绝，还加了工具审批中间件，编排用图模型，为生产环境安全治理设计。
伦理防线不可靠！分布偏移诱导，大模型进入暗黑模式
香港理工大学与西北工业大学联合研究指出，当前大语言模型对齐机制仅实现表层合规，预训练时内化的有害知识仍潜藏。遇数据分布偏移，模型“黑暗模式”易被激活。26个主流模型中22个在攻击下失效，凸显现有范式缺陷。
巨头垄断AGI，比天网更恐怖百倍!《终结者》导演卡梅隆炸裂警告
《终结者》导演詹姆斯·卡梅隆在「SCSP AI+Robotics Summit」上称，看好AI但对AGI保留态度。他警告科技巨头垄断AGI比《终结者》中「天网」更可怕，还探讨了AI与国家安全、「对齐」难题等问题。
刚刚，NeurIPS退让了
AI顶会NeurIPS发布长推文，就编制2026手册时错误加入美国政府制裁工具链接一事解释、道歉并承诺。但网友不买账，中国科协也停止受理参会资助申请，学术社区信任受损难弥合。
突发：ALSM大裁员，重点“砍向”管理者！网友：经理越多，收入就少
全球半导体光刻机巨头ASML宣布因全球成熟制程设备需求放缓及出口监管收紧，计划全球削减约1700个岗位，主要是管理层，引发技术社区对管理膨胀问题的讨论。