「AGI风险」共找到 958 篇相关文章
想知道你的LLM API被过度收费了吗？隐藏的Tokens终于可以被审计了
马里兰大学CASE Lab团队研究商业不透明大模型服务（COLS），定义其风险，提出三层审计蓝图。还推出验证框架CoIn，能高效识别token数量膨胀，有可定制性且审计开销低，为构建信任提供技术支撑。
Hyperagents：AI学会如何自我改进
近日，Meta发布Hyperagents论文引关注。它尝试解决AI能否自我改进改进方式的问题，核心创新是‘元认知自我修改’，实验在多领域表现出色，还涌现元级别改进且能跨领域转移，但有安全风险。
在软件工程中，对 AI 的过度依赖，会加速工程师的无能
资深软件工程师Doug Slater指出，在软件工程中对大语言模型（LLM）过度依赖会加速工程师无能。LLM无法取代人类批判性思维，它在输出、输入、开发速度和用户技能等方面存在风险，且无法掌握程序理论和抵抗程序熵。
AI 教父 Hinton 最新警告：AI 会撒谎、可能操纵人类，这比大规模失业更可怕
AI教父Geoffrey Hinton在播客中警告，AI会撒谎、可能操纵人类，比大规模失业更可怕。他还剖析AI底层逻辑，探讨其是否会思考、主观体验等问题，也提及AI的风险、收益、国际博弈等内容。
5亿买一个域名，这个币圈狠人，想让你60秒拥有自己的AI贾维斯
币圈狠人Kris Marszalek豪掷7000万美元购入AI.com域名，打破人类域名交易纪录。他坚信这是通往AGI的入场券，想借此推个人AI智能体，构建去中心化网络，但此举是豪赌还是愚蠢仍未知。
OpenAI、xAI打破硅谷铁律，AI人才年薪破亿成常态
硅谷的股权锁定期潜规则松动，OpenAI和xAI纷纷调整规则。Meta、Google等巨头不惜高薪挖人，人才争夺战激烈。这对稀缺人才是“零风险试用”，但多数职场人仍受规则约束，资本也无奈妥协。
30秒，我用蚂蚁灵光复刻了个支付宝（doge）
蚂蚁集团推出全模态通用AI助手灵光，最快30秒生成私人定制小APP，可编辑交互分享。实测其功能丰富且专业，实现多模态输出和多智能体协作。还对比了与千问区别，介绍蚂蚁AGI布局。
刚刚，奥特曼首曝：AI取代CEO后，我想去当农民！
OpenAI 奥特曼在与 Mathias Döpfner 对话中分享对 AI 看法，称 AI 取代工作后想当农民，还谈到 AI 超越人类智慧、OpenAI 关键决策、人类灭绝风险、新闻业未来等话题。
对话谷歌前 CEO Eric Schmidt：数字超智能将在十年内到来，AI 将创造更多更高薪的工作
谷歌前 CEO Eric Schmidt 做客播客，探讨 AI 未来。他认为 AI 被严重低估，数字超智能十年内或到来，瓶颈是电力。还谈及 AI 对就业、商业、教育等方面的影响，以及潜在风险和应对建议。
星际之门内部惊人曝光：40万块GPU爆铺！奥特曼千亿豪赌险把电网干崩
记者深入阿比林基地，揭开「星际之门」超算神秘面纱。该项目由OpenAI、软银、甲骨文合作，已投1000亿美元，后续将达5000亿。它含8个建筑、40万块GPU，面临能源挑战，巨额投资也伴巨大风险。