「智能体安全」共找到 4181 篇相关文章
刚刚，AI科学家Zochi在ACL「博士毕业」，Beta测试今日上线
Intology宣布AI科学家Zochi论文被顶会ACL主会录用，成首个独立通过A*级别会议同行评审的AI系统，还开放Beta测试。其研究成果显示语言模型安全措施或有不足，Zochi工作成果多且质量高。
字节扣子空间上新一键转播客功能，现在我们真成同事了｜甲子光年
5月27日，字节跳动旗下AI协同办公平台扣子空间新增播客功能。其播客音频生成功能让AI从‘说什么’跨越到‘怎么说’，适用于多场景。扣子空间还具备跨模态协作等能力，引入MCP协议，免费开放核心功能。
一场“直面行业真问题”机器人比赛的万字观赛报告｜甲子光年
甲子光年发布ICRA上WBCD赛事观赛报告。该赛聚焦双臂机器人，设生命科学、物流打包、餐桌服务挑战。从实际需求出发，吸引全球团队。各赛展现不同技术亮点，如洛桑联邦理工线控、卡内基梅隆神经 - 符号架构等。
如何重现 DeepSeek 推理性能突破
DeepSeek-V3 是热门开源大模型，采用大规模 MoE 架构，优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化，对齐其推理系统性能，分享关键技术、不足与思考，还提及对 Qwen3 模型的优化策略。
Palo Alto5亿美元收购的Portect AI都有什么产品和技术？
2025年4月25日，Palo Alto Networks超5亿美元收购Protect AI，为客户提供端到端人工智能安全保障。Protect AI有两个开源软件ModalScan、LLM Guard和三个平台产品Gardian、Recon、Layer，防护方案完整。
翁荔最新万字长文：Why We Think
北大校友、前OpenAI华人VP翁荔发布万字长文《Why We Think》，围绕“测试时计算”和“思维链”，探讨提升模型性能的方法，涉及心理学类比、基于Token的思考、分支与编辑等多方面内容。
“光靠人盯不住了”！拆解上万张晶圆，这家公司靠 AI 将芯片良率提升数个百分点
喆塔科技创始人赵文政看好半导体软件领域引入AI技术。喆塔将DeepSeek接入自研模型，应用机器学习算法提升半导体企业良率，构建智能生态系统，产品获客户认可，未来将加大研发投入。
LoRA中到底有多少参数冗余？新研究：砍掉95%都能保持高性能
这篇创新研究介绍了LoRI技术，证明即使大幅减少LoRA的可训练参数，模型性能依然强劲。研究团队在多个任务上测试了LoRI，发现仅训练LoRA参数的5%，LoRI就能匹配或超越其他方法的性能。
TikTok SRE 技术负责人：AI Agents 说到底就是分布式系统
本文整理自TikTok SRE技术负责人Salman Munaf的公开演讲，提出AI Agent具备调用外部服务、执行状态变更能力后，本质就是分布式系统，需运用分布式系统领域成熟经验规避风险、保障安全可靠。
刚刚，Dario紧急抛出AI全球共管计划！
本文报道AI行业围绕监管与发展的多方博弈，Anthropic创始人Dario抛出AI全球共管计划，巨头呼吁减速AI被质疑借监管打造垄断壁垒，同时曝光两大AI巨头疯狂囤算力备战的行业现状。