「自主性风险」共找到 1409 篇相关文章
DeepSeek新模型意外曝光：AI Agent才是未来~
据彭博社消息，中国AI新星DeepSeek计划年底发布对标OpenAI的AI Agent，能自主执行多步任务、自我学习进化。国内Kimi、Qwen也有相关动作，还分享了72多种高效AI工具。
真实场景也能批量造「险」！VLM+扩散模型打造真实域自动驾驶极限测试
浙江大学与哈工大（深圳）联合推出SafeMVDrive，将VLM关键车辆选择器与两阶段轨迹生成结合，可在真实域批量制造高保真安全关键视频，用于端到端自动驾驶系统安全性测试。
机器人也会「摸鱼」了？宇树G1赛后葛优瘫刷美女视频，网友：比人还懂享受生活
宇树G1机器人在2025世界人形机器人运动会夺冠后，赛后“葛优瘫”刷视频的画面走红。此次运动会上，宇树机器人成绩亮眼，不过也出现“肇事逃逸”等小插曲，技术在进步中也暴露一些问题。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
Cloudflare 选择 PostgreSQL 扩展而不是专用的 OLAP 来进行 100K 行 / 秒的分析
Cloudflare工程团队解释选TimescaleDB而非ClickHouse为内部平台增分析报告功能的原因，强调存储分析与配置数据简单性和专用OLAP系统性能的“惊人平衡”，介绍了项目发展及TimescaleDB优势。
AI × 老旧系统：Vibe Coding 构建 AI 迁移工具，实现 10x 端到端智能迁移
文章指出老旧系统现代化复杂且需大量人工，AI 编程工具和 Vibe Coding 带来新可能。介绍 6R 策略、绞杀模式等迁移方法，还阐述 AI 在系统分析评估、代码转换等方面的应用，最终目标是打造闭环 AI 迁移 Agent。
英伟达推理服务器被曝高危漏洞，云端AI模型被攻击直接裸奔
安全研究机构Wiz Research曝光英伟达Triton推理服务器一组高危漏洞链，可组合利用实现远程代码执行，造成模型被盗、数据泄露等后果。英伟达已发布补丁，25.07版本前系统有风险。
别听模型厂商的，Prompt 不是功能，是 bug
风险投资Conviction创始人Sarah Guo分享2025年AI创业观察，指出从用户体验看，prompt是缺陷非功能；传统低技术行业正快速拥抱AI；还分析了AI能力进展、应用案例及投资机会等。
秒改屎山代码、最高提效 300%！AI 代码审查工具会终结技术债务还是带来新危机？
当下AI代码审查工具引发热议，虽宣称提效300%，但实际表现存争议。InfoQ采访硅心科技专家，探讨其利弊、核心能力、不同工具差异等，还提及应对问题的策略及未来审查流程演变等内容。
刚刚，OpenAI 发布了GPT-5 前菜：ChatGPT Agent
OpenAI发布ChatGPT Agent，它是统一智能代理系统，融合多种功能与工具，能动态选处理路径。在多测试中表现佳，采用强化学习微调新架构。使用体验似与人协作，OpenAI采取安全措施，还探索商业、分批开放，业内看法不一。