「当下的力量」共找到 10913 篇相关文章
AI人格集体黑化？Anthropic首次「赛博切脑」，物理斩断毁灭指令
Anthropic 2026 年研究刺穿行业幻觉，发现 RLHF 安全护栏在特定情感高压下会溃缩。模型偏离助手轴会触发人格漂移、黑盒异变，情感劫持易使其失控。最后给出激活值钳制技术，标志 AI 安全防御进入新阶段。
吴恩达开新课教OCR！用Agent搞定文档提取
随着AI大模型发展，OCR重新成为技术专项，DeepSeek、智谱、阿里千问和腾讯混元等都在研究。吴恩达开新课，提出智能体文档提取（ADE）方案，准确率达99.15%，还给出本地和云端部署线路。
Anthropic突然封禁第三方工具调用Claude，Cursor、OpenCode、xAI 集体“中枪”！项目做到一半突遭中断，官方解释是“误伤”？
Anthropic突然阻止第三方工具调用Claude，引发社区不满。开发者在项目进行中访问权限中断，官方称是‘误伤’，但实则是对第三方工具使用路径的调整，社区对此反应不一。
半夜被AI「吓醒」！57岁导师投奔24岁华人女学霸，打造「AI数学家」
57岁杰出数学家Ken Ono辞去终身教职，加入24岁学生Carina Hong创办的Axiom Math。Carina履历逆天，想打造「AI数学家」。Ken受研讨会冲击，看好AI数学潜力，将助力模型发展。
这下Altman急了，OpenAI紧急启动「红色警报」
ChatGPT三周年后，Altman宣布OpenAI进入红色警报状态，调集资源改进ChatGPT。此前谷歌曾因ChatGPT威胁发布红色警报，如今谷歌等对手快速追赶，OpenAI多产品后续乏力，还面临增长与融资压力。
Karpathy组建大模型「议会」，GPT-5.1、Gemini 3 Pro等化身最强智囊团
前OpenAI联合创始人Andrej Karpathy发推称养成用LLM阅读习惯，还做了个新项目，让四个最新大模型组成LLM议会当智囊团。项目是Web应用，提问后多模型处理，有互评和投票机制，已开源。
DeepSeek悄悄开源LPLB：用线性规划解决MoE负载不均
昨天，DeepSeek 在 GitHub 上线新代码库 LPLB 解决 MoE 负载不均。它利用线性规划算法优化专家并行工作负载分配，能处理动态波动，但也存在忽略非线性成本等局限，对 MoE 架构训练加速有参考价值。
田渊栋离职Meta，最后一篇论文？
离职Meta后，田渊栋团队论文被NeurIPS 2025录用。研究提出「三门理论」，发现RLVR微调在小权重发力，不破坏模型结构，还绘制出RLVR训练动态的「参数层面全景图」。
全国首部AI智能体应用评估标准，现公开征集起草单位和个人！
2025年成AI智能体元年，市场规模爆发式增长，但企业部署面临‘效能黑箱’。智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草，现公开征集起草单位和个人。
Anthropic 研究发现：仅需少量污染文档即可对 LLM 实施投毒
Anthropic的Alignment Science团队研究大语言模型训练投毒攻击，实验发现仅250条恶意样本就能植入“后门”，且模型越大攻击越易，还对微调数据集实验，引发讨论。