「安全开发框架」共找到 3771 篇相关文章
OpenAI这招太狠！AI从「躲猫猫」到「自爆黑料」，主打一个坦白
随着AI进入高风险场景，透明、安全变得重要。OpenAI提出「忏悔机制」，让模型回答后产出自我坦白报告，不影响主回答评分，只考察诚实，能提升不良行为可见性，目前仍处概念验证阶段。
FriendliAI获2000万美元，以加速AI模型推理工作负载
专注AI推理的初创平台FriendliAI获2000万美元种子扩展轮融资，资金用于加速平台开发。其专有推理优化技术可降低模型运行成本和能耗，能为用户省90%的GPU成本，合作客户广泛。
Karpathy：强化学习「有点问题」，突破还需新算法
前特斯拉AI总监、OpenAI创始团队成员Karpathy发文称，强化学习虽能带来更多收益，但机制「可疑」，不像人类解决智能任务的方式。他提出新算法框架，还指出当前存在诸多待解决的问题。
亚马逊CEO：坚信AI Agent，能改变世界工作、生活方式
今天凌晨，亚马逊CEO Andy Jassy发文分享对AI Agent看法，坚信其会改变工作和生活方式。亚马逊内外积极应用，在购物、广告等多领域有成果，未来还将深入开发，预计员工总数会减少。
高效Agents的尽头是，Harness
文章指出玩Agent久了会出现问题，很多人简单将其视为“模型+工具”组合远远不够。以OpenDev为例，介绍了Harness架构，包括核心理念、扩展ReAct循环、上下文工程等，还提及安全架构、多模型路由等内容。
拆解机器人，分析其软硬件弱点（1)
国外公司对某款机器人做了深入拆解分析。介绍了机器人硬件关键信息，包括外形、各部分组件等。还指出硬件存在多种攻击途径及安全隐患，如物理访问点、JST 连接器等问题，RK3588 也有漏洞。
Lumina-mGPT 2.0：自回归模型华丽复兴，媲美顶尖扩散模型
上海人工智能实验室等团队提出Lumina - mGPT 2.0自回归模型，统一多种图像任务。它采用独立训练架构、统一多任务处理框架和高效推理策略，实验表现优异，后续将优化采样时间并扩展至多模态理解。
自定义轨迹驱动AI视频生成，ATI无需训练适配多种生成模型
字节提出视频生成运动控制统一框架ATI，通过轻量级运动注入器将用户定义轨迹投影至预训练图像 - 视频生成模型潜在空间，实现协调控制。用户指定关键点及路径控制运动，无需重新训练，适配不同架构。
光计算如何走向实际部署？清华、上交提出光计算走向实用化的技术路线图
传统电子计算算力遇瓶颈，光计算成为下一代算力新方向。清华与上海交大研究团队联合在Nature Nanotechnology发表研究，提出国际首个光计算实用化统一评价框架与技术路线图，为光计算落地部署提供明确指导。
现实世界的天气能复刻？Weather-Magician实时渲染下雨打雷下雪
传统工业方法在还原复杂现实场景时成本高、质量差，当前算法也难重建和渲染真实天气效果。上海交通大学提出Weather - Magician框架，能重建场景并渲染4D天气效果，对硬件要求低且可实时渲染。