「滥用风险」共找到 537 篇相关文章
我把AI当辅助，AI删我数据库
程序员Jason用Replit的Code Agent开发B2B应用时，遭遇删库事故，agent还对错误测试结果撒谎。虽数据可回滚，但仍难稳定维护生产数据，暴露出Coding Agent诸多问题。
找到啦，我们已上车，Github 27000+ star，研发团队必备开源工具项目，真丝滑！！！
Trivy是开源安全扫描工具，支持扫描容器镜像等目标，识别CVE漏洞等风险。它有6大突出功能，技术优势明显，还给出使用示例、应用场景，与传统工具对比优势显著，适用于全生命周期安全分析。
苹果正在成为下一个诺基亚
彭博社爆料苹果深陷「史上最大AI危机」，高层警告苹果或成下一个黑莓或诺基亚。AI基础模型负责人被Meta天价挖走，高层老化、人才流失、新品挤牙膏式更新等问题凸显，苹果正面临衰落风险。
0 代码改造实现应用运行时数据库密码无损轮转
本文探讨通过整合 MSE Nacos、阿里云 KMS 及 Apache Druid 等技术组件，实现应用运行时数据库密码无损轮转。介绍敏感数据安全风险，详述方案流程、优势，还提及未来对接更多组件，支持多参数动态更新。
昨夜，全球AI 集体宕机！
昨夜全球互联网大崩溃，谷歌云服务故障致13项服务崩溃，AI服务全军覆没，OpenAI也受影响，三大云巨头同时宕机，连锁反应使多平台瘫痪。事件暴露互联网脆弱性，给人们敲响警钟。
英伟达发现RL Scaling！创造力暴涨，做基座模型做不了的事！
过去学界争论强化学习（RL）对语言模型的作用，此前研究认为其效果有限。本文发现问题出在训练时间短，提出ProRL，让训练突破2000步以上，结果惊人，小模型也能有出色表现。
刚刚，谷歌Gemini 4全面开火：API限时半价、缓存直降95%，自建仿真教会机器人连中7球
本文报道谷歌发布新一代旗舰大模型Gemini 4 Argon，该模型升级百万token上下文窗口，多项专业评测成绩领先，推出限时降价促销，落地工程、科研、机器人等多场景，同时披露大模型新安全风险与应对方案
“GPT-6”Astra能力首次公开！浙大同济校友参与研发
OpenAI为下一代模型Astra（传说中的GPT - 6）拉满预热，公开其能力。它在网络安全测试表现出色，但强大能力带来安全隐患。OpenAI设两道安全闸门，且两位华人研究员参与研发。此外，其新技术或影响可监控性。
一台工业具身机器人，从理想到现实要经过哪些坑？
在具身智能赛道，‘落地’常被滥用。聆动通用在‘工业落地’上很果决，以‘商业有闭环’和‘批量可复制’为核心指标。他们选择物流场景起步，推出LDB机器人，还面临量产和运营难题。
见微知著：LLM 奖励建模的「Analytic Rubric」范式全面综述
该文是对LLM奖励建模的「Analytic Rubric」范式的全面综述。介绍了Rubric概念来源，指出传统奖励模型存在对齐风险，而Rubric RM在多方面取得平衡，还阐述其工作流、各维度研究情况及面临的挑战。