「AGI安全」共找到 2414 篇相关文章
爆火的 AI 玩具赛道，全行业都在等一个「成功者」
过去一年，AI玩具创业火热，众多大厂背景创业者入局。但现状尴尬，鲜少有能售卖产品，已推出的产品反馈不佳。目前AI玩具实质多为毛绒玩具加语音盒子，创业者面临技术和成本等难题。
OpenAI大变革！继续与微软等，以非营利模式冲击AGI
今天凌晨2点，OpenAI宣布继续由非营利组织控制，营利性实体转变为公共利益公司。此前转型营利性公司引发争议，此次调整是听取各界意见后做出，旨在让AI造福全人类。
「推理革命」爆发100天：DeepSeek-R1复现研究全揭秘！
本文深入梳理围绕DeepSeek-R1的复现研究，解析监督微调、强化学习等关键技术细节，介绍相关数据集、训练方法及奖励机制等，还探讨了推理语言模型更多发展方向，为研究提供基础。
Claude一天3崩！API、App、Cowork全挂，打工人集体抓瞎
8月24日Claude一天崩三次，Anthropic状态页三次变红又宣布恢复，但用户仍打不开。故障从中午持续到下午，波及多个产品。8月故障频发，还存在算力枯竭、模型变笨等问题。
DeepSeek 把 Harness 开源了：模型、工具、Agent Loop 全是插件
8月13日，DeepSeek面向全球开发者开放DeepSeek Harness开发者预览版v0.1并开源代码。其特色是一切皆插件，提供四种运行模式，内置多Agent系统，有创新但编排范式未突破，还采用仅追加的会话日志。
全网疯抢体脂秤背后，阿福找到了健康 AI 的正确打开方式
6月25日，蚂蚁阿福发起‘科学减重1亿斤’行动，1分钱发放AI体脂秤引疯抢。它支持测18项身体数据，还能接入多种健康硬件。阿福用医疗大模型提供个性化方案，走出全民普惠的AI健康管理道路。
哈？Q1狂烧250亿！OpenAI财报泄露全网炸锅
最新泄露财报显示，2025年OpenAI收入130.7亿美元，支出340亿，亏损385亿。今年Q1收入57亿美元，却烧掉37亿。虽账上现金充裕，但后续烧钱预计递增。与Anthropic对比，财务状况差异大。不过亏损不绝对影响其IPO。
王云鹤眼中的Harness：复杂优化问题，AGI灵魂争夺之战
王云鹤在知乎文章中探讨Harness Engineering，指出Agent=Model+Harness，多模型配合能提升Agent能力。还分析Harness存在的必要性，认为它是复杂优化问题，关乎AI“灵魂”之争。
陶哲轩在线安利Claude Code：审稿意见全给它，15分钟欧了
科研人投稿论文常被审稿人“折磨”，陶哲轩用Claude Code修改论文，15分钟搞定，还捉出审稿人错误。他认为应让AI干脏活累活，人类解决难题，AI+人成数学界新趋势。
SafeHarness：告别防御盲区，为智能体Harness穿上「全生命周期安全护甲」
在自主AI智能体生态中，Harness是核心组件却易成攻击目标。中国科学院信息工程研究所等推出SafeHarness框架，将防御机制融入智能体Harness运行生命周期，解决现有安全工具缺陷，实现系统级协同防御。