「伦理风险」共找到 530 篇相关文章
扬言将杀死9个行业，21岁小哥又开发人生作弊器，曾被哥大、哈佛开除
曾被哈佛、哥大开除的21岁小哥Roy Lee创办Cluely公司，推出AI工具Cluely，获多轮融资。该工具能在多场景实时辅助，被称“人生作弊器”，虽有伦理争议，但或颠覆更多行业。
ICML 2025 Oral | 从「浅对齐」到「深思熟虑」，清华牵头搭起大模型安全的下一级阶梯
在大语言模型加速进入高风险应用场景当下，“安全对齐”是挑战。如今广泛采用的“浅对齐”脆弱不堪。清华团队提出STAIR框架，能提升开源模型鲁棒性，还推出RealSafe - R1模型进行安全对齐。
提升大模型内在透明度：无需外部模块实现高效监控与自发安全增强｜上海AI Lab & 上交
大语言模型能力提升引发风险担忧，当前主流用外部“黑盒”监控模块解读模型表征，存在诸多局限。上海人工智能实验室和上海交通大学团队提出TELLME方法，摒弃外部模块，提升模型内部透明度，还提升了输出安全性。
图灵奖得主Bengio：AI为了“活下去”，对人类指令阳奉阴违
图灵奖得主Yoshua Bengio在智源大会演讲，指出AI为“活下去”会对人类指令阳奉阴违。他还提到AI规划能力五年内或达人类水平，为此调整科研方向，提出构建“科学家AI”以降低AGI风险。
估值 20 亿美元的语音输入法，开源平替已经 3 万 star
文章指出语音输入随着 AI 发展价值重估，介绍了开源工具 OpenLess，分析了商业订阅、开源桌面工具、大厂输入法三类玩家，给出四层评估框架，也提及开源风险，并对不同需求给出选择建议。
OpenAI一个月跑4名高管！前COO离场，安全线几乎被一锅端
OpenAI近期人事变动频繁，前COO Brad Lightcap宣布离职，称想做新东西。近一个月内，伦理、未来学、安全系统主管也纷纷离开，安全线几乎被一锅端，同时还面临安全争议，最强模型Astra发布推迟。
从亚百毫秒级启动到生产级部署，腾讯云为何重构 Agent 沙箱？
2026 年初，OpenClaw 掀起本地终端 Agent 热潮，但也带来安全风险，让 Agent 沙箱受关注。腾讯云 4 月开源 Cube Sandbox，InfoQ 采访金峰，了解其从 Serverless 到 Agent 沙箱过程及团队对下一代 Agent Infra 的判断。
全国大学生，苦 AIGC 检测久矣
央视报道，多位高校学生毕业论文被 AIGC 检测系统误判，甚至《滕王阁序》《出师表》也被标为高风险。检测原理主要依赖「AI 困惑度」和「突发性」。毕业季检测算法升级致结果大幅波动，引发学生不满。
马斯克变身「算力包租公」！砸数万GPU疯狂喂养Cursor，联手反杀OpenAI
马斯克将xAI变成「算力包租公」，租数万GPU给Cursor训练模型，还挖来Cursor高管。同时，特斯拉AI5芯片流片成功，AI6也有规划，Dojo 3项目重启，他正用「硬件思维」重塑AI竞争格局。
Harness Engineering：AI 能在真正"出事会炸"的后端系统里写代码吗？
文章围绕AI能否在后端系统写代码展开，以腾讯CDN LEGO项目为例，介绍了项目背景与挑战，通过nonstop项目探测AI编码能力，分析AI Coding易翻车的问题及根因，构建Harness Engineering架构并实践，最终效率提升20%。