「安全机制」共找到 1712 篇相关文章
Karpathy：强化学习「有点问题」，突破还需新算法
前特斯拉AI总监、OpenAI创始团队成员Karpathy发文称，强化学习虽能带来更多收益，但机制「可疑」，不像人类解决智能任务的方式。他提出新算法框架，还指出当前存在诸多待解决的问题。
高效Agents的尽头是，Harness
文章指出玩Agent久了会出现问题，很多人简单将其视为“模型+工具”组合远远不够。以OpenDev为例，介绍了Harness架构，包括核心理念、扩展ReAct循环、上下文工程等，还提及安全架构、多模型路由等内容。
拆解机器人，分析其软硬件弱点（1)
国外公司对某款机器人做了深入拆解分析。介绍了机器人硬件关键信息，包括外形、各部分组件等。还指出硬件存在多种攻击途径及安全隐患，如物理访问点、JST 连接器等问题，RK3588 也有漏洞。
Synk收购Invariantlabs-AI安全技术的强强联手
2025年6月24日，安全AI软件开发领导者Snyk宣布收购AI安全研究公司Invariant Labs。Snyk CEO称收购增强了抵御新兴威胁能力。Invariant Labs在MCP领域领先，成果丰富，Snyk也有多样产品，合并有望带来1+1>2效果。
五角大楼计划将绝密数据喂给AI，训练军事特供版模型
《麻省理工学院技术评论》称，五角大楼正讨论为生成式人工智能公司建安全环境，用机密数据训练军事特定版本模型。美国军方重构战略，推动先锋项目，还筹备用绝密数据训练模型，引发安全担忧。
当中国AI喊出「开源脑机」，马斯克站到全网的对立面
中国AI「论论全球」直播呼吁开源脑机接口，引发海外热议，将马斯克旗下闭源的Neuralink推上风口浪尖。它指出脑机接口安全风险大，窗口期只剩1 - 3年，还提出开源科技文明构想。
1吨旧手机能提取约200克黄金？你家的闲置手机可以这样处理→
我国年均产生废旧手机超4亿部，回收率低，因回收价低、信息安全顾虑，大量闲置。但旧手机资源回收价值高，“以旧换新”政策和技术升级正推动回收产业发展，打消消费者顾虑。
好抽象，韩国给独居老人发AI玩偶，24h陪伴+健康监测
韩国步入‘超级老龄化’社会，独居老人孤独问题严重。该国初创公司Hyodol开发的AI玩偶，被政府分发给数万名独居老人，可陪伴、监护老人，还能降低护理成本，但也引发安全隐私等问题。
强化学习也遇到了“天花板”？Andrej Karpathy构建了一个新算法
大神Karpathy肯定强化学习（RL）价值，指出其比监督微调更具扩展性，但存在渐进式学习低效、背离人类学习机制的局限。他提出“第二天性”新范式算法，还面临泛化等挑战。
Diffusion约2倍无损加速！训练-推理协同的缓存学习框架来了｜ HKUST&北航&商汤
HKUST、北航与商汤提出HarmoniCa框架，解决Diffusion模型推理慢、成本高问题。它通过SDT和IEPO机制，解决训练 - 推理脱节，在多模型上实现推理提速、质量提升，且训练推理开销低，已开源。