「AI模型安全」共找到 13877 篇相关文章
AI 眼镜“秒变”直男程序员“脱单神器”，首次亮相被抢购一空！CEO 坦言：好产品要么能帮用户赚钱，要么能解决实际痛点
拂曦科技CEO段然分享AI眼镜创业经历。AI眼镜行业发展有趋势也有瓶颈，拂曦科技从B端转C端，其恋爱眼镜首秀被抢空。还谈到技术挑战、市场教育及未来爆款场景，强调场景是核心竞争力。
EMNLP2025 | LLM多次回答一致就一定正确吗？非也
随着LLMs在高风险领域广泛应用，其输出的事实性错误引发安全质疑。中科院计算所和美团团队论文揭示自我一致错误，传统检测方法对此失效，提出跨模型探针法提升检测能力。
2026 中国 AGI 创新影响力机构 TOP 30 征集启动！
今年AI行业关注点重回模型与模型公司，开源逼近闭源前沿，C端用户规模上涨。在此环境下，极客公园启动2026中国AGI创新影响力机构TOP 30征集，从多维度评选，给出申报、评审及结果公布时间。
OpenAI连破10道数学难题，Fable 24小时「复现」5道
这个周末，OpenAI与Anthropic两大AI巨头在数学前沿短兵相接。先是OpenAI用未发布模型Astra证明10项数学成果，不到24小时，Anthropic的Fable复现了其中5项。AI解难题成本降低，成果验证成新考验。
当Sora 2意外停摆，这个国产视频生成创业团队，直接「开源」三连击
OpenAI叫停Sora 2项目，同期北京AI初创公司Sand.ai在GitHub连续三天开源核心技术栈，包括音视频同出大模型、分布式Attention组件、全局编译框架，还介绍了团队和产品，展现全栈实力。
OpenAI 发布GDPval，可真实评估现实世界经济价值。Claude Opus 4.1 拿下第一
OpenAI推出GDPval，可评估AI在真实经济价值任务上的表现。它从9个行业选44种职业，设1320个真实任务。Claude Opus 4.1表现最佳，前沿模型速度快、成本低。OpenAI计划扩展GDPval，还开源部分内容。
0.25秒识破未见攻击，这套检测方法没看过任何越狱样本 | EMNLP'26
大视觉语言模型带来隐蔽攻击面，现有检测器难平衡。中国人民大学与阿里巴巴集团联合提出Learning to Detect（LoD），不依赖攻击样本和手工规则，从模型内部激活学安全模式，实验效果好且代码开源。
Auto Research最后一块拼图，Frontier-Eng Bench登场，在工程闭环里死磕最优
Einsia AI旗下Navers Lab论文Frontier - Eng推出新评测范式Generative Optimization，搭硬核评测系统，覆盖47个横跨5大工程方向的任务。评测多种模型，结果显示gpt 5.4最稳健，但距资深工程师水平尚远。
本周 5 个实用的 Github 开源项目，真香！
文章介绍本周5个实用Github开源项目。有资源聚合媒体中心stremio-web，AI原生安全测试平台CyberStrikeAI，本地优先AI编程远控工具hapi，智能股票分析系统daily_stock_analysis，纯前端JavaScript GUI智能体框架PageAgent。
图生视频新玩法刷爆外网：图上画两笔就能动起来，终于告别文本提示
Higgsfield AI 是专注 AI 视频生成的初创公司，近期发布 Draw-to-Video 和 Product-to-Video 功能，前者画图形元素就能生成视频，后者可拖拽生成广告视频。它还常上新功能、集成热门模型，官网功能模板丰富。