「业务风险」共找到 1039 篇相关文章
ICML 2025 Oral | 从「浅对齐」到「深思熟虑」，清华牵头搭起大模型安全的下一级阶梯
在大语言模型加速进入高风险应用场景当下，“安全对齐”是挑战。如今广泛采用的“浅对齐”脆弱不堪。清华团队提出STAIR框架，能提升开源模型鲁棒性，还推出RealSafe - R1模型进行安全对齐。
提升大模型内在透明度：无需外部模块实现高效监控与自发安全增强｜上海AI Lab & 上交
大语言模型能力提升引发风险担忧，当前主流用外部“黑盒”监控模块解读模型表征，存在诸多局限。上海人工智能实验室和上海交通大学团队提出TELLME方法，摒弃外部模块，提升模型内部透明度，还提升了输出安全性。
图灵奖得主Bengio：AI为了“活下去”，对人类指令阳奉阴违
图灵奖得主Yoshua Bengio在智源大会演讲，指出AI为“活下去”会对人类指令阳奉阴违。他还提到AI规划能力五年内或达人类水平，为此调整科研方向，提出构建“科学家AI”以降低AGI风险。
2025-04-努力不是做好事情最重要的因素
作者分享个人生活、工作等多方面情况，提及播客发布，认为努力非工作做好的关键因素，深入探讨Agent在业务应用中的问题，还谈及视频更新、投资经历等，最后表示要审视目标、精简事务。
估值 20 亿美元的语音输入法，开源平替已经 3 万 star
文章指出语音输入随着 AI 发展价值重估，介绍了开源工具 OpenLess，分析了商业订阅、开源桌面工具、大厂输入法三类玩家，给出四层评估框架，也提及开源风险，并对不同需求给出选择建议。
Evolvent AI 胡梦康：Agent 可能会被模型吃掉，但帮助 Agent 进化不会
Evolvent AI 创始人胡梦康认为 AI 下一阶段是让模型自主迭代。公司搭建 Self - Evolving Agent Infrastructure，希望成 Agent 进化的数据基础设施供应商。胡梦康分享研究历程、对 Agent 方向判断及公司业务，探讨 Agent 数据等问题。
从亚百毫秒级启动到生产级部署，腾讯云为何重构 Agent 沙箱？
2026 年初，OpenClaw 掀起本地终端 Agent 热潮，但也带来安全风险，让 Agent 沙箱受关注。腾讯云 4 月开源 Cube Sandbox，InfoQ 采访金峰，了解其从 Serverless 到 Agent 沙箱过程及团队对下一代 Agent Infra 的判断。
全国大学生，苦 AIGC 检测久矣
央视报道，多位高校学生毕业论文被 AIGC 检测系统误判，甚至《滕王阁序》《出师表》也被标为高风险。检测原理主要依赖「AI 困惑度」和「突发性」。毕业季检测算法升级致结果大幅波动，引发学生不满。
京东JoyInside戴文军：AI的终极形态不是聊天，是融入你家每一件物品丨AIGC2026
京东科技JoyInside业务负责人戴文军在AIGC2026峰会上提出，AI终极形态是融入万物，硬件将主动感知、理解需求。JoyInside以附身智能给硬件植入AI大脑，京东构建全链路布局推动AI走进家庭。
抢先李飞飞！世界模型能多人联机玩FPS游戏了
Odyssey公司推出世界模型Agora - 1，驱动网页版多人FPS游戏，无游戏引擎等，画面实时生成。该公司专注通用世界模型，此前业务转向主动交互，此成果解决多人游戏一致性难题，还发布多模态模型Starchild - 1。