「AI风险」共找到 9890 篇相关文章
大厂的AI不限量补贴终会结束！Hermes Agent作者：开源框架真正的狠招是把Claude对Anthropic的忠诚抢过来
科技创作者 Peter Yang 对话 Hermes Agent 作者之一 Karan Malhotra，探讨 Hermes Agent 与其他产品的差异、模型谄媚问题、开源意义等。Karan 指出其独特自我改进系统与专注用户需求特点，还提及让模型更贴合用户的方法。
马斯克挖不动的清华学霸，一年造出 “反内卷 AI”！0.27B参数硬刚思维链模型，推理完爆o3-mini-high
新加坡Sapient Intelligence推出小参数AI模型HRM，能解决复杂推理难题。它受大脑启发，提出“隐性推理”路径，准确率碾压先进思维链模型，推理能力超越o3 - mini - high，经济性突出，任务效率可百倍提升。
Andrej Karpathy最新暴论：这类软件正走向绝境，PS首当其冲？
Andrej Karpathy认为，人机协作时代，复杂UI、缺脚本支持、基于自定义二进制格式的软件前景堪忧。他按风险等级列举不同软件，还强调不主动改造的产品处境艰难。
年度AI论文！全球三大顶尖模型的防蒸馏机制全面告破：小模型“套出”大模型隐藏思维链，Kimi-K3重现概率异常
这篇论文指出三大前沿AI模型厂商API有密码学旁路漏洞，攻击者用轻量级模型就能恢复大模型隐藏思维链数据。还揭示部分模型训练或借鉴大模型思维链，此漏洞也致企业数据隐私安全问题。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
“养团队造语言”时代终结？Rust传奇人物用Claude造出新开源编程语言，AI写下万行代码：大模型上限很高，我学会了高效用它！
Rust核心贡献者Steve Klabnik借助Claude写了新语言Rue并开源。他曾是AI怀疑论者，现认为大模型在编程中‘真的有用’。Rue目标是不依赖垃圾回收提供内存安全，使用体验更顺手，开发深度依赖Claude。
马斯克彻底向ASI投降！10年后万亿财富都将「归0」
2026年7月23日，马斯克接受《经济学人》总编专访，给出AI发展时间线，称5年内AI智力超人类总和，10年内金钱无意义。他曾是AI末日论者，如今态度转变，还提出AI安全治理方案。
“千问奶茶”在二手平台6元转售；追觅俞浩：年终奖最高20个月奖金，总量会达到10亿级；京东001号快递员：退休金4000多，存款百万｜AI周报
这是一份AI周报，涵盖行业热点、大模型发布等多方面信息。有追觅俞浩高额年终奖计划，马云现身阿里千问项目组引发‘千问奶茶’活动热潮，还有域名交易、企业收购、模型发布及应用等动态。
重建安全，Kai种子轮拿了1.25亿美元，有点象龙虾
大模型用于网络攻击，传统安全跟不上节奏。初创公司Kai首笔融资1.25亿美元，它从根本上重建安全，用单一智能体AI平台自主完成安全工作，愿景是整合网络安全和IT功能。
顶级商战往往采用最朴素的方式：你叫「微软」，我叫「巨硬」
2026决战前夜，AI成抢夺电力与地皮的「物理战争」。谷歌要5年内算力拉升1000倍，抠能效；马斯克自建电厂、买仓库，手搓算力中心，还在名字上挑衅微软，不过也引发环保抗议。