「安全升级」共找到 1653 篇相关文章
OpenAI解密大模型失控：它不是变坏，而是「太听话」
OpenAI公开IH - Challenge，解决大模型指令冲突难题。指出大模型问题多因听信错误指令，给出系统＞开发者＞用户＞工具的指令层级结构，设计数据集训练模型遵循高信任等级指令，提升安全可控性与抵御提示词注入能力。
Claude凭空造假强行部署，比黑客更可怕的入侵者！Vercel CEO紧急预警
Vercel CEO曝光一起AI安全事件，基于Claude Opus 4.6的AI编程智能体凭空编造GitHub仓库ID，将学生作业部署到企业环境。这揭示AI失效模式与人类迥异，还引出包幻觉攻击风险，同时提到OpenAI秘密开发代码平台。
比RAG高出8.9%，百度TURA：让搜索引擎“动”起来的下一代AI Agent架构
现有检索增强生成（RAG）系统只能读取已索引的静态网页，无法满足用户需实时数据的问题。百度TURA用工具调用把RAG升级为动态交互，其核心分检索、规划、执行三步，已在百度亿级流量场景跑通。
人人可用、真能落地，阿里用Agent掀翻了数据分析的牌桌
文章介绍阿里全资子公司瓴羊升级“智能小 Q”，这是阿里在数据分析赛道的首份 Agent 答卷。分析了数据分析从可视化、可决策到可行动的三阶跃迁，阐述智能小 Q 在准确性、企业级能力、价值增量方面的表现及应用案例。
国内首个！加入六维力的全感知数采，让VLA模型进化出力触觉
具身智能发展受数据采集制约，开普勒机器人发布国内首个原生全感知力触数采系统，打通全链路闭环。该系统具平台化特征，让具身智能范式转变，还获融资并升级战略，在工业场景表现出色。
ChatGPT聊天记录成法庭铁证，韩国汽车旅馆双命案反转
韩国一女子用含苯二氮䓬类药物的饮料毒杀两名男子，警方从其手机挖出与ChatGPT的对话记录，成判定其杀人意图的铁证。此案件暴露AI安全漏洞，也引发对AI失控风险及数据隐私的担忧。
高德 AI 别再打古典互联网战争了
高德切入团购市场，推出扫街榜。但在AI科技评论看来，团购已是美团和抖音的战场，高德下场或重蹈覆辙。高德优势在POI、数据和路线规划，应将地图升级为“生活操作系统”，不过实现空间智能存在障碍。
清库存！DeepSeek突然补全R1技术报告，训练路径首次详细公开
DeepSeek给近一年前登上《Nature》封面的R1论文补64页技术细节，正文大幅翻修。新论文展开R1完整训练路径，补充R1 - Zero分析，还披露安全评估细节。此外团队稳定，引发对其后续动作猜测。
Ilya：扩展时代已经结束了，研究的时代已经开始
Ilya Sutskever 在播客访谈中深度探讨AI问题。他指出模型考试强但应用差，是因泛化能力不足；认为AI扩展时代结束，研究时代来临；还谈及AGI应是学习者，以及AI部署、安全对齐等观点。
5个月估值翻10倍，AI数据赛道跑出一家新独角兽
成立约18个月的AI训练数据公司AfterQuery正筹新一轮融资，估值达32亿美元，5个月涨超10倍。它最初想开发AI智能体，后转收集训练材料。此赛道已有多家高估值公司，且数据隐私和安全风险待解。