「AI安全研究」共找到 10765 篇相关文章
模型换个Harness就「变笨」？EverMind把自进化从研究推向产品，让AI「越用越聪明」
同一模型换 Harness 表现或大幅波动，暴露自进化走向产品的两个关键问题。EverMind 用 HarnessBank、Raven 与 EverMe 解决，将自进化从研究推向产品，让 AI「越用越聪明」。
去了一趟中国AI实验室，Linux基金会CTO感叹：西方那两套偏见全破产了
Linux 基金会全球 AI 技术官 Matt White 访华后称，西方对中国 AI 的偏见破产。中国实验室文化黏性强、人才回流，工具反向输出美国。他指出西方出口管制未卡死中国，还让其成自研芯片‘卷王’，开源模型也更受青睐。
DeepMind入股硬核网游EVE，要让AI学「黑暗森林」
本周四，Google DeepMind宣布收购《EVE Online》开发商部分股权，将用该游戏研究智能。EVE是高度自由化的沙盒游戏，玩家驱动性强。此前EVE就与科研有跨界合作，此次合作令人期待AI智能体的表现。
年前看到最有深度的AI下半场Agents记忆机制综述
本文是一篇83页的基础智能体记忆机制综述，由27家机构联合发表。提出AI研究范式转变，记忆是填补理想与现实差距的关键。构建三维统一分类框架，介绍记忆操作、学习策略、评估体系、应用场景及未来方向。
TypeScript 之父 Anders Hejlsberg：别折腾“AI新语言”了，真正变天是 IDE 让位给 Agent
TypeScript 之父 Anders Hejlsberg 在与 GitHub 研究顾问对谈中回应质疑，称选 Go 重写编译器合理。他认为 AI 编程时代，TypeScript 语言服务将重塑，IDE 或让位给 Agent，还谈到 AI 在代码迁移中的应用及开源可持续性问题。
Karpathy自称患上AI精神病！能力没有上限，一切都是Skill问题
Karpathy在播客中称自己患AI精神病，日常工作多依赖智能体。他认为智能体能力无上限，瓶颈在使用者技能。还探讨软件变革、自动化研究、模型分化等，对就业、开源等也给出看法。
当中国AI喊出「开源脑机」，马斯克站到全网的对立面
中国AI「论论全球」直播呼吁开源脑机接口，引发海外热议，将马斯克旗下闭源的Neuralink推上风口浪尖。它指出脑机接口安全风险大，窗口期只剩1 - 3年，还提出开源科技文明构想。
创智突破：AI首次自主发现106个超越人类设计的神经网络架构
创智学院团队发布的AI超智能系统ASI - ARCH，自主发现106个超越人类设计的神经网络架构，建立“科学发现缩放定律”，实现从“自动化优化”到“自动化创新”转变，还将成果开源推动研究发展。
AI不需要海量用户
AI和互联网逻辑不同，互联网需海量用户，因其边际成本趋近零且是消费驱动。而AI有真实边际成本，是生产驱动，更需要重度用户。若用互联网打法做AI，会陷入产能黑洞，拖慢发展。
推翻「预测下一个token」范式！微信AI新研究：把token压缩成连续向量更具性价比
微信AI和清华团队提出新范式CALM，把token打包成连续向量，让大模型从预测下一个token转变为预测下一个向量。实验表明它能减少生成步骤，在平衡性能和计算成本时性价比更高。