「安全挑战」共找到 1912 篇相关文章
魔法原子迎来“春晚时刻”｜甲子光年
2026年，魔法原子成春晚智能机器人战略合作伙伴，还举办全球合作伙伴大会。其自研机器人挑战春晚复杂环境，此前全栈自研积累实力，有超亿元订单，靠场景和生态赋能突围，未来需转化技术优势为商业成功。
效率狂飙数倍后：Coding Agent已然成熟，但开放世界仍是“无人区”
2025 年被定义为 Agent 的‘工程落地元年’。MCP、A2A 协议及多智能体协同框架推动 Agent 应用爆发，但企业级落地仍面临多 Agent 协作低效等挑战。AI Coding 和自动化运维是落地较成熟领域，其终极形态观点不一。
关于我用ChatGPT模拟撒旦并支付了订阅费这件事
新智元报道，硅谷科技巨头将AI注入基督教领域，出现如「Text with Jesus」等App。信仰交互变即时亲切，神成算法打造的伴侣。但也有争议，如算法妥协、恶魔付费解锁等，这像数字巴别塔，挑战传统信仰。
港大开源ViMax火了，实现AI自编自导自演
香港大学黄超教授团队开源ViMax框架，在GitHub获高星标。它借助多智能体协作实现AI自编自导自演视频，突破主流模型在长视频制作的瓶颈，采用多种策略应对技术挑战，不过在多方面仍有提升空间。
Meta「内战」升级：做「神一般的AI」，还是守住「社交帝国」？
随着扎克伯格将战略重心转向AI，Meta内部面临挑战。顶尖AI团队与核心业务部门在资源分配等方面有摩擦，冲突核心是AI发展优先事项。为支持AI，元宇宙部门面临削减，Meta能否打破科技巨头“诅咒”待察。
一次性应用出现，个人独角兽崛起：顶级布道师Jeff Barr论AI如何重塑开发者生态｜InfoQ独家采访Jeff Barr
InfoQ 独家采访亚马逊云科技核心奠基人 Jeff Barr，探讨 AI 对开发者生态的变革。他认为 AI 是能力放大器，将催生一次性应用和个人独角兽，开发者角色转变，沟通和数据更重要，还介绍了应对建议及 Kiro 挑战活动。
Meta「透视」AI思维链：CRV推理诊断，准确率达 92%！
Meta FAIR团队在论文中提出CRV方法，可实时观察AI思维过程。它通过改造模型大脑结构，让推理可见。在算术推理实验中，检测精度提升到92.47%，还能让模型修正错误。不过该技术落地尚面临诸多挑战。
告别 260 亿美元的低效投入，HappyRobot 为物流业配置 “AI 调度员”
HappyRobot为物流市场搭建AI-native平台，切入“voice agent + 通信自动化”领域，打造“数字员工”。它能提升沟通效率、降低成本，已获6200万美元融资，还尝试拓展至其他行业。不过，也面临AI价值兑现不对称等潜在风险。
硅谷一线创业者内部研讨：为什么只有 5%的 AI Agent 落地成功，他们做对了什么？
来自硅谷一线AI创业者数据显示，95%的AI Agent在生产环境部署失败，原因在于围绕模型搭建的脚手架不完善。文章基于研讨会内容，探讨AI Agent构建关键，如上下文工程、安全控制、记忆功能等，并指出待解决问题和未来方向。
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。