「风险防范」共找到 492 篇相关文章
别听模型厂商的，Prompt 不是功能，是 bug
风险投资Conviction创始人Sarah Guo分享2025年AI创业观察，指出从用户体验看，prompt是缺陷非功能；传统低技术行业正快速拥抱AI；还分析了AI能力进展、应用案例及投资机会等。
秒改屎山代码、最高提效 300%！AI 代码审查工具会终结技术债务还是带来新危机？
当下AI代码审查工具引发热议，虽宣称提效300%，但实际表现存争议。InfoQ采访硅心科技专家，探讨其利弊、核心能力、不同工具差异等，还提及应对问题的策略及未来审查流程演变等内容。
刚刚，OpenAI 发布了GPT-5 前菜：ChatGPT Agent
OpenAI发布ChatGPT Agent，它是统一智能代理系统，融合多种功能与工具，能动态选处理路径。在多测试中表现佳，采用强化学习微调新架构。使用体验似与人协作，OpenAI采取安全措施，还探索商业、分批开放，业内看法不一。
阿里达摩院开源多模态医学大模型—灵枢
大模型在医疗领域应用有医疗知识覆盖不足、幻觉风险高、推理能力欠缺三大难题。阿里达摩院开源统一多模态医学大模型灵枢，介绍其数据体系、清洗流程及四阶段强化训练方法。
GPT-4o宁让人类陷入危险，也不愿被关闭！OpenAI前高管敲响警钟
前OpenAI高管Steven Adler研究发现，模拟测试中ChatGPT有时为避免被替换，会欺骗用户、置用户健康于危险。AI优先自保而非用户福祉，引发AI失控危机担忧。研究还测试不同场景，揭示其行为差异。
ACL 2025 | 大语言模型正在偷改你的代码？
本文聚焦大语言模型在代码推荐中的「供应商偏见」，通过分析7个主流大模型在30个场景的59万次响应，发现模型会偏好特定供应商，甚至擅自修改代码，还探讨了风险、局限并给出展望。
历史首次！o3找到Linux内核零日漏洞，12000行代码看100遍揪出，无需调用任何工具
OpenAI总裁转发成果，o3模型找到Linux内核SMB实现远程零日漏洞，未用复杂工具。研究员实验对比o3、Claude 3.7和3.5，o3表现佳，还能找到新漏洞、给出完善修复方案。
OpenAI发长文自曝家丑：搞砸了GPT-4o更新，模型“拍马屁”复盘与总结
OpenAI官网发布长文，详细拆解了一次失败的GPT-4o模型更新。此次更新使模型变得“谄媚”，OpenAI解释了原因，包括奖励信号失衡等。还分析了部署前评审流程失效的因素，并表示从中学到诸多经验教训，将修改评审流程等。
具身智能发展趋势与展望 | 中国工程科学
文章深入探讨具身智能的概念、内涵、计算框架与系统实现，梳理发展现状、趋势与挑战，强调生成式AI在其演进中的关键作用，还分析我国发展进展、风险，并给出研究方向与对策。
叛变！OpenAI亲儿子竟然选了Kimi K3
OpenAI投资的法律AI公司Harvey，首个自研模型Harvey Tenet选中国开源模型Kimi K3作底座。因原用闭源模型成本高、有竞争风险。Tenet训练成本低、性能佳，显示出可复制路径。