「安全挑战」共找到 1907 篇相关文章
AGI真方向？谷歌证明：智能体在自研世界模型，世界模型is all You Need
谷歌DeepMind研究人员表明，通用AI智能体处理复杂长期任务需学习内部世界模型，还证明可从智能体策略提取该模型。此研究成果补充多领域，对AI发展和安全意义重大。
字节 AI 卷出新高度：豆包试水“上下文定价”，Trae 覆盖内部80%工程师，战略瞄定三主线
近日字节分享 AI 技术发展三主线，6 月 11 日火山引擎有系列发布更新。豆包 1.6 实行上下文定价，成本降低；超 80% 字节工程师用 Trae；视频生成模型 Seedance 1.0 Pro 具性价比；智能体带动强化学习算力攀升。
刚刚，AI科学家Zochi在ACL「博士毕业」，Beta测试今日上线
Intology宣布AI科学家Zochi论文被顶会ACL主会录用，成首个独立通过A*级别会议同行评审的AI系统，还开放Beta测试。其研究成果显示语言模型安全措施或有不足，Zochi工作成果多且质量高。
InfoQ 2025 年趋势报告：文化与方法
InfoQ 2025 年趋势报告指出，AI 虽提升开发速度，但带来质量问题，需新测试方法；团队协作重要，工程师依赖 AI 或破坏协作；初级工程师价值仍在，可借 AI 学习；可观测性成本攀升，应视为战略投资；平台工程是未来方向。
什么！我把SQL编辑器装进了大模型？
文章介绍基于约束解码技术，结合CFG、Jinja模板和XGrammar框架，为大模型SQL生成配备“编辑器”。它能保证语法正确、遵循规则，还具灵活性。但面临约束干扰和性能瓶颈，未来可简化配置惠及更多用户。
AI开源狂飙，OpenAI们慌了！GenAI大洗牌，2025趋势深度解读
2025年，ChatGPT仍领跑，但DeepSeek、Qwen等开源模型加速追赶。独立机构报告总结六大趋势，涵盖技术突破与市场格局演变，如推理模型实用化、MoE架构普及等，开源势力挑战闭源巨头。
Palo Alto5亿美元收购的Portect AI都有什么产品和技术？
2025年4月25日，Palo Alto Networks超5亿美元收购Protect AI，为客户提供端到端人工智能安全保障。Protect AI有两个开源软件ModalScan、LLM Guard和三个平台产品Gardian、Recon、Layer，防护方案完整。
翁荔最新万字长文：Why We Think
北大校友、前OpenAI华人VP翁荔发布万字长文《Why We Think》，围绕“测试时计算”和“思维链”，探讨提升模型性能的方法，涉及心理学类比、基于Token的思考、分支与编辑等多方面内容。
ICML25 | 让耳朵「看见」方向！仅依靠360°全景视频，就能生成3D空间音频
空间音频技术成提升沉浸式体验关键，但现有技术未充分利用360°全景视频空间信息。OmniAudio研究可直接从360°视频生成空间音频，相关代码和数据集已开源，虽有局限但前景好。
LoRA中到底有多少参数冗余？新研究：砍掉95%都能保持高性能
这篇创新研究介绍了LoRI技术，证明即使大幅减少LoRA的可训练参数，模型性能依然强劲。研究团队在多个任务上测试了LoRI，发现仅训练LoRA参数的5%，LoRI就能匹配或超越其他方法的性能。