「智能体安全」共找到 4181 篇相关文章
告别黑箱解释！首个潜变量自动解释框架 | CIKM'25
深度生成模型内部运作如「黑箱」，潜变量意义难捉摸。埃默里大学团队提出LatentExplainer框架，经数据扰动、智能提示、不确定性评估三步，为潜变量生成易懂解释，提升模型解释质量与可靠性。
Nature点赞！哈佛MIT最新作：AI科学家时代来了
哈佛MIT推出ToolUniverse，这一开源框架让AI用自然语言操作600+科学工具，解决了科学研究中AI智能体面临的工具格式不统一等问题，推动科研自动化升级，助力打造AI科学家。
真正的AI竞争力，藏在大模型“后训练”这一步
当全球聚焦基座模型参数竞赛时，后训练变革正悄然发生。产业共识是，大模型后训练是AI落地产业必经之路。后训练技术从SFT演进至强化学习范式，企业应用也有了从技术到商业价值的完整链路。
13万被引！ImageNet作者苏昊或将加盟复旦
近期，「UCSD副教授苏昊将加盟复旦」传言不断，但尚无权威公开信息证实。苏昊是ImageNet早期参与者，科研成果丰硕，论文被引达13.3万。若加盟，或为复旦带来多方面提升，但也面临诸多挑战。
Figure 03重磅发布！指尖能感知回形针重量，年产1.2万台，这次要让人形机器人走进千家万户
Figure AI公司发布第三代人形机器人Figure 03，专为Helix、家庭和大规模应用设计。它有全新传感与手部系统，能感知回形针重量，还做了安全、易用设计，实现低成本量产，适用于家庭和商业场景。
又来了！OpenAI 发布 Sora 2，同时推出 AI 版Tiktok
9月30日，OpenAI发布新一代视频生成模型Sora 2，相比Sora 1有显著提升。同时推出iOS社交应用Sora，类似TikTok。应用有安全措施，已在美加iOS平台邀测。社区反应两极分化，OpenAI野心大但或面临挑战。
晶晨股份全资收购无线通信芯片公司芯迈微
晶晨股份拟3.16亿全资收购芯迈微，核心是战略补强，借此获取研发团队与技术IP，补齐广域网连接短板，构建全栈解决方案能力，从单点技术竞争迈向平台生态竞争。
AI时代终端大变局
随着算法、芯片、场景深度融合，端侧AI计算成终端智能化核心引擎，重塑IoT终端应用场景智能体验。端侧AI芯片作为技术底座，正重塑终端产业格局，虽面临挑战，但未来前景广阔。
Python 2还能走多远？
自2020年Python 2停止维护，虽仍有项目在用，但企业和社区都在向Python 3迈进。文章介绍了Python 2的发展历程、存在的问题，阐述Python 3的优势，并给出了从Python 2切换到Python 3的方法。
EMNLP2025 | LLM多次回答一致就一定正确吗？非也
随着LLMs在高风险领域广泛应用，其输出的事实性错误引发安全质疑。中科院计算所和美团团队论文揭示自我一致错误，传统检测方法对此失效，提出跨模型探针法提升检测能力。