「安全挑战」共找到 1907 篇相关文章
Meta&UIUC大发现：无需标注，Agent复杂的工具使用和搜索能力，是可以“无中生有”的
Meta和UIUC研究发现，无需标注，Agent复杂工具使用和搜索能力可“无中生有”。论文Dr. Zero让大模型自我博弈成搜索专家，用HRPO提效，设计难度导向奖励，实验表现佳，但也存在局限。
12毫秒暴露自动驾驶致命缺陷，北航新研究实现场景感知的动态物理对抗攻击｜TPAMI2025
近日部分L3级自动驾驶车型获批上路，但自动驾驶感知系统存在缺陷。北航等机构提出DynamicPAE框架，实现场景感知的动态物理对抗攻击，解决多维度挑战，在多场景表现优异，被TPAMI2025录用。
重塑股权投资：GP与LP的思维碰撞｜甲子引力
2025年12月3日，「甲子光年」举办年终盛典，科技产业投资专场围绕“GP与LP的思维碰撞”展开探讨。当下股权投资挑战凸显，嘉宾指出DPI和“耐心资本”成高频词，还分享应对LP诉求策略及未来行业格局看法。
Scaling Law 仍然成立，企业搜广推怎么做才能少踩“坑”？
InfoQ《极客有约》X AICon 直播邀请京东颜林等探讨生成式推荐落地洞察。指出搜广推场景 scaling law 成立且在上升，还分享大模型对搜广推的改变、架构成长方式，及平衡成本等方面的经验。
Anthropic内部揭秘20万代码交互记录背后的职业变迁
Anthropic官方发布内部实录，通过对132名工程师调查及20万条交互日志分析，揭示软件工程正从编写代码向管理代码演变。工程师AI使用率提升，工作方式、角色、信任机制等都发生了变化，也带来新挑战。
流片成功率低、研发成本高昂，EDA如何助力芯片产业破局？
全球半导体市场规模增长强劲，但芯片产业面临流片成功率低、研发成本高的挑战。西门子EDA全球副总裁凌琳提出，未来半导体产业突破需聚焦三大方向，核心是‘全面数字孪生’，并阐述了实现路径和布局策略。
入侵30家大型机构、Claude自动完成90%？Anthropic 被质疑，Yann LeCun：他们利用可疑的研究来恐吓所有人
Anthropic称发现黑客用Claude AI自动化完成90%网络攻击工作，称对网络安全有重大启示。但外部研究人员谨慎质疑，Yann LeCun等认为是可疑研究和营销噱头，专业安全人员也不认可其历史性转折说法。
解决Agent幻觉：HaluMem精准定位记忆系统的“说谎”环节！
近年来，LLM和Agent在记忆管理上存在挑战，现有评估方法无法定位幻觉来源。论文提出HaluMem评估基准，通过三大任务和两个数据集揭示记忆系统幻觉行为，为开发可靠记忆机制提供指导。
BigBang-Proton: 自回归基座模型统一语言、科学和物质世界
超对称公司发布新版基座模型 BigBang - Proton，实现多学科问题与 LLM 统一预训练和推理，挑战主流 AGI 技术路线。它有三项创新，在多专业学科任务表现出色，还提出宇宙尺度压缩构想。
本周推荐的6个yyds的Github开源项目！
文章推荐6个GitHub开源项目。如Stretchly是休息提醒工具，助打工人养成科学节奏；Yaak是API客户端，主打离线隐私；ValueCell用于金融AI分析交易；nof1 - tracker可跟单交易；Zerox转换文档为Markdown；Open Notebook是Google Notebook LM平替。