「潜在风险」共找到 551 篇相关文章
史上最惨一代？AI延长人类寿命，下一代活到200岁不是梦！
内容创业者Matt Wolfe长期关注AI，他与工程师交流，揭示AI发展现状。巨头各有策略，能源或成瓶颈。AI或带来智能爆炸与生命延长，也可能有‘黑箱语言’风险，还探讨了寿命、机器人等影响。
Hinton突然对AGI乐观了！“Ilya让他看到了什么吧…”
Hinton接受独家访谈，将AI风险分短期和长期，认为长期是AI接管人类。他观点大转变，从“养虎为患”到提出赋予AI“母性本能”实现共存，还批评马斯克和奥特曼，看好AI医疗应用。
超700人预约，昆明一门店免费安装！不少线下数码门店迎来大量用户，“小龙虾”火爆出圈！
一款名为OpenClaw的AI智能体因图标是红色卡通龙虾被称为“小龙虾”而火爆。昆明线下数码门店有用户咨询、预约安装，超700人预约。它能自动完成操作，但存在技术门槛和数据安全风险，国家相关部门已发布提示。
想知道你的LLM API被过度收费了吗？隐藏的Tokens终于可以被审计了
马里兰大学CASE Lab团队研究商业不透明大模型服务（COLS），定义其风险，提出三层审计蓝图。还推出验证框架CoIn，能高效识别token数量膨胀，有可定制性且审计开销低，为构建信任提供技术支撑。
Hyperagents：AI学会如何自我改进
近日，Meta发布Hyperagents论文引关注。它尝试解决AI能否自我改进改进方式的问题，核心创新是‘元认知自我修改’，实验在多领域表现出色，还涌现元级别改进且能跨领域转移，但有安全风险。
八年后，Meta教会了Transformer「显式思考」
10月20日Meta上线新论文《The Free Transformer》，作者François重写Transformer思维方式，造出Free Transformer新架构。它在解码器内加入随机潜在变量，让模型生成内容前先‘思考’，实验显示在多任务上性能显著提升。
从DeepSeek-V3到Kimi K2：八种现代 LLM 架构大比较
文章对比了DeepSeek-V3、Kimi K2等八种现代LLM架构。介绍各模型独特技术，如DeepSeek V3的多头潜在注意力和混合专家技术，OLMo 2的后归一化策略，Gemma 3的滑动窗口注意力等，探讨架构改进与突破。
在软件工程中，对 AI 的过度依赖，会加速工程师的无能
资深软件工程师Doug Slater指出，在软件工程中对大语言模型（LLM）过度依赖会加速工程师无能。LLM无法取代人类批判性思维，它在输出、输入、开发速度和用户技能等方面存在风险，且无法掌握程序理论和抵抗程序熵。
AI 教父 Hinton 最新警告：AI 会撒谎、可能操纵人类，这比大规模失业更可怕
AI教父Geoffrey Hinton在播客中警告，AI会撒谎、可能操纵人类，比大规模失业更可怕。他还剖析AI底层逻辑，探讨其是否会思考、主观体验等问题，也提及AI的风险、收益、国际博弈等内容。
OpenAI、xAI打破硅谷铁律，AI人才年薪破亿成常态
硅谷的股权锁定期潜规则松动，OpenAI和xAI纷纷调整规则。Meta、Google等巨头不惜高薪挖人，人才争夺战激烈。这对稀缺人才是“零风险试用”，但多数职场人仍受规则约束，资本也无奈妥协。