「激活上限」共找到 179 篇相关文章
大模型幻觉的源头找到了！清华团队锁定大模型宁愿说谎也要讨好人类的神经元
清华大学研究团队深度解剖大语言模型微观机制，确认幻觉关联神经元存在，揭示其与过度服从行为相关。通过干预神经元激活状态可增减模型幻觉行为，为开发可靠 AI 系统提供靶点。
字节、阶跃之后，张心皓押注Human Loop：Agent Loop赢家通吃，创业要走另一条路
张心皓曾在字节跳动工作10年，后创业，现做Jovida，目标是“从愿望到行动零摩擦”。他认为Claude Code定义纯Agent Loop上限，创业应做Agent in Human Loop，还分享了产品理念、架构、商业化等看法。
无需租GPU，一台24GB内存的笔记本就够了!
阿里开源稀疏 MoE 模型 Qwen3.6-35B-A3B，总参数 35B，激活 3B。它在智能体编程上超越前代，可与稠密模型媲美，支持多模态，已在 Qwen Studio 上线，还能集成第三方编程助手。
你花80%精力调的AI，效果被 PDF 解析卡死了
做RAG时，花80%精力优化embedding和检索，效果上限却被PDF解析卡死。OpenDataLoader PDF靠不同架构在基准测试获第一，采用混合架构，还做了三件其他解析器不做的事，思路值得学习。
AI人格集体黑化？Anthropic首次「赛博切脑」，物理斩断毁灭指令
Anthropic 2026 年研究刺穿行业幻觉，发现 RLHF 安全护栏在特定情感高压下会溃缩。模型偏离助手轴会触发人格漂移、黑盒异变，情感劫持易使其失控。最后给出激活值钳制技术，标志 AI 安全防御进入新阶段。
启发学习：让大模型认知从外化到内生
当下大模型能力多靠人为框架，能力上限受限。文章提出“启发学习”，将其集成到推理侧成Isaac框架，通过Prompt与网络层注入复用旧经验，实验显示能大幅提升大模型任务性能。
2025值得一看的31件AIGC作品
2025年AIGC成连接历史与未来的‘文化转译器’。文章盘点MANA网站31件优秀AIGC作品，涵盖与各领域结合形式，呈现与历史对话、激活即时艺术等4大创作趋势，展现AIGC多元玩法。
OpenAI 开源模型泄露：六大技术细节
OpenAI 可能发布的开源大模型细节泄露，包含两款模型，1200 亿参数 MoE 模型和 200 亿参数稠密模型，专注文本处理。还涉及训练技术、激活函数、上下文窗口、注意力机制及底层架构等方面的技术细节。
一个大脑搞定所有模态，百度ERNIE 5.0技术报告公布
模型发布近3个月后，百度ERNIE 5.0技术报告公布。其底座用超级稀疏架构，参数量万亿但推理激活参数不到3%，实现四种模态原生自回归统一，还在路由调度、训练范式等多方面有创新。
AI 基础知识从 0.6 到 0.7—— 彻底拆解深度神经网络训练的五大核心步骤
文章以 PyTorch 手写数字识别代码为引，深入剖析深度神经网络训练的五大核心步骤，涵盖前向传播、计算损失、反向传播、更新参数和循环训练，还介绍激活函数、Dropout 等概念及正则化、优化器等技术。