「安全挑战」共找到 1907 篇相关文章
Claude for Chrome来了！可作为浏览器扩展程序直接使用
Anthropic发布浏览器agent Claude for Chrome，可作Chrome扩展程序使用，能设日历、回邮件等。目前仅向1000名Max套餐用户开放，因使用浏览器的AI有安全挑战。AI浏览器成巨头争夺战场。
推理能力再突破！蚂蚁 | 提出Agentic Deep Research新范式，可信度同步增加
尽管LLM能力提升，但复杂任务表现受静态知识限制。业界提出Agentic Deep Research系统，现存系统训练有梯度冲突和奖励稀疏问题。蚂蚁团队提出Atom - Searcher，创新推理范式，构建细粒度奖励，结合奖励训练，实验效果佳。
刚刚，Anthropic推出Claude Chrome插件，仅限1000人
Anthropic发布Claude for Chrome扩展，让Claude能在浏览器操作，仅向1000名Max计划用户开放预览。虽功能强大，但面临提示注入攻击风险。不过Anthropic有多层防护，降低了攻击成功率，并给出用户安全建议。
GPT-5通关《宝可梦水晶》创纪录！9517步击败赤爷，效率碾压o3三倍！
GPT-5通关《宝可梦水晶》创纪录，仅9517步击败赤爷，步数为o3的三分之一。它在主线任务效率也远超o3，如收集徽章、对战四天王等。其优势在于幻觉少、空间推理和目标规划能力强。
ChatGPT到底学了多少「污言秽语」？清华团队首提大语言模型中文语料污染治理技术
清华等团队研究发现，先进ChatGPT系列模型中文词表污染达46.6%，含色情、赌博等词元。团队定义分类中文污染词，构建识别模型，还能由词表污染估计数据污染，为语料治理提供方案。
马斯克Grok-4卖货创收碾压GPT-5！AI卖货排行榜曝光，AGI的尽头是卖薯片？
新智元报道，「Vending Bench」榜单让大模型经营自动售货机一较高下。Grok - 4卖货能力超GPT - 5，销量约高2倍，营收增31%。此测试揭示AI长周期决策挑战，引发AGI定义讨论。
一文读懂：数据中心“拥抱”ARM架构，为何如此艰难？
文章探讨企业数据中心采用ARM架构面临的难题。如现有x86架构主导，切换有兼容性问题；ARM硬件选择有限、性能不足；云服务功能难对等；软件支持和许可证问题也阻碍其应用。
迈向可信AI：LLM幻觉的分析与优化
随着LLM广泛应用，其幻觉现象成AI落地关键挑战。文章分析LLM幻觉成因、优缺点，结合RAG、SFT、强化学习等技术，提出多维度优化方案，为构建可信大模型应用提供理论与实践路径。
xAI联合创始人出走：连马斯克都留不住顶级人才
伊戈尔·巴布什金这位效力过DeepMind和OpenAI的AI老将，助马斯克建成孟菲斯超算集群后离开xAI，创办风投公司“Babuschkin Ventures”，瞄准AI安全赛道，揭示AI行业顶尖人才的追求。
腾讯开源Stand-In！轻量级身份保留视频生成新突破
生成符合指定身份的高保真视频挑战大，现有方法依赖大参数且兼容性不足。腾讯开源轻量级、即插即用的Stand - In框架，在身份保留文本生成视频任务中性能先进，兼容性强，有广阔应用潜力。