「AI模型安全」共找到 13715 篇相关文章
AI顶会反噬整个学术圈！「不发表就会死」，NeurIPS爆仓，博士年肝4.5篇大崩溃
NUS研究者指出，NeurIPS等AI顶会投稿量激增，正反噬学术圈。当前模式存在结构性危机，如学术产出泡沫化、环境代价高、研究者心理负荷大等。为此，他们提出“社区联邦会议”（CFC）模型以解决问题。
7 小时连续重构不掉线！一骑绝尘的Claude 终于遇到对手：Greg Brockman亲自解读AI编程重大突破
9月16日，OpenAI推出新模型GPT-5-Codex，专为AI辅助编程工具设计。它在代理编码基准测试中表现佳，形成了覆盖各种需求的交互界面，还具有更优的后训练特性，能连续工作7小时完成复杂重构。
Claude Opus 4.7炸场，6美元造《我的世界》，临门AGI前强调安全，打工人却更慌了
Anthropic 发布‘目前最强 Opus 模型’Claude Opus 4.7，能力跃升，在多榜单夺冠。写代码、看图表等能力提升，也有网页搜索等能力下降。还展现出游戏开发实力，同步上线Claude Code新功能，加强安全防护。
对话光帆科技董红光：Manus 让 Agent 走红，但真正的 AI 载体不只有手机
本文是对光帆科技创始人董红光的专访，围绕AI时代的交互与硬件趋势展开。董红光认为AI最合适载体非手机，光帆发布全球首款视觉感知AI耳机，介绍了产品设计原理、操作系统研发等，并探讨了AI硬件市场现状与未来。
AI 设计9个月就能媲美Blackwell？OpenAI “辣芯”绕开英伟达正面战场，但老黄的GPU大盘不稳了
OpenAI 展示与博通联合打造的定制 AI 芯片 Jalapeño，性能媲美英伟达 Blackwell 或谷歌 TPU。计划年底部署，是多代芯片开发首步。它专为大模型推理设计，设计周期短，成本低，OpenAI 借此扩展全栈能力。
中国 AI 投资人：练习时长两年半
文章是对多家投资机构的访谈，探讨AI投资与创业趋势。涉及Manus成功经验、DeepSeek影响、模型公司前景、应用机会等，还谈及创业者应对策略、投资策略变化及行业未来思考。
一个提示攻破所有模型，OpenAI谷歌无一幸免！
HiddenLayer研究发现一种「策略傀儡」提示，将危险指令伪装成配置片段，配上角色扮演，能让ChatGPT等主流大模型开启「无限制模式」。此策略利用训练弱点，难修复且可扩展，厂商需智能监控。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
一口气集齐老黄苏妈英特尔，还得是AI，还得是联想
CES 2026上，各大厂商行动显示所有设备将成AI设备，有「物理AI」等新趋势。联想集团杨元庆提出混合AI是推动AI普及的终极路径，联想还发布相关产品，展现其在AI生态的优势。
喊话谷歌、OpenAI，微软AI CEO亮出「人文超级智能」底牌
微软AI CEO苏莱曼称AI已超越人类，他在组建微软超级智能团队时提出「人文主义超级智能」概念，认为超级智能发展有风险，要确保AI站人类一边，还看好其在医疗领域应用。