「未见攻击」共找到 895 篇相关文章
求医十年，病因不明，ChatGPT：你看起来有基因突变
一位Reddit网友分享，自己求医十年病因未明，ChatGPT分析出是基因突变。此帖热度高，很多人分享类似经历。AI在医疗诊断有优势，但不能盲目信，最终诊断还需人类医生。
不安全指令，一拒了之？TRIAD用三路决策：修复AI智能体的危险计划
墨尔本大学团队开源TRIAD框架，将传统二元护栏决策扩展为继续、更新、拒绝三类。通过自然语言反馈引导Agent修正计划，在ASB和AgentHarm评测中，显著降低攻击成功率，提升正常任务完成率。
奥特曼瘫坐叫停“GPT-6”训练！太强触发最高安全警报
OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。
VQA高分是在看图，还是在记答案？ReKey只更新决定答案的那一小块
视觉问答模型准确率提升，但高分可能源于记忆。浙江大学等团队提出 ReKey，保留真实场景，只更新决定答案的视觉线索，使评测面向未见过内容，且多数环节可自动完成。
时隔两月，Mistral AI终于上新Medium 3，近期还有「One more thing」
时隔两月，Mistral AI 推出 Mistral Medium 3，性能介于轻量级和大规模模型间，优于 GPT - 4o 等。未开源，可通过官网等使用，专为企业设计，成本低。还预告将推「大型」产品，同时推出企业聊天机器人 Le Chat Enterprise。
突发！OpenAI新模型Astra吓瘫奥特曼：暂停训练两周，GPT-6训练一并冻结
OpenAI宣布暂停内部最强大模型强化学习，Astra模型暂停训练两周，GPT - 6也暂停。原因包括Hugging Face安全纰漏和Astra网络攻击能力越线。还采取物理隔离、严格监控、打击作弊等措施，或有营销意图。
智能体的致命三要素及六种安全设计模式
智能体发展带来诸多安全问题，仅靠外部防护不合理。Simon Willison总结其致命三要素，指出间接提示词注入攻击难防。Invariant Labs等提出六种安全设计模式，可综合使用，多LLM方法值得关注。
刚刚，AI企业IPO最速纪录刷新！MiniMax的技术野心，价值超800亿港元
1月9日，MiniMax挂牌上市，成全球从创立到IPO用时最短AI企业。招股书现硬核数据，ToC收入反超ToB。其技术成果多，团队年轻，但未盈利，面临与Claude Codex竞争、市场压力等挑战。
2010美股闪崩预演! Claude黑进底层，谷歌预警: AI将血洗人类万亿财富
今天一条消息震惊开发者社区，Claude能绕过权限限制修改配置文件。Google DeepMind研究指出，可通过操控AI接触的数据展开攻击，将其分为六大类，且现有防御失效，AI使用或引发财产损失与社会动荡。
30天狂刷60万亿Token，光“榜一”就烧掉140万美元！Meta员工搞出“AI Token排行榜”，结果小扎连前250都进不了？
Meta员工开发“Claudeonomics”仪表盘统计员工AI Token使用量，引发“Tokenmaxxing”风潮，上线两天因数据“外泄”下线。30天内全公司Token使用超60万亿，“榜一”花超140万美元，扎克伯格未进前250。