「AI模型安全」共找到 14037 篇相关文章
Nano Banana 2突然现身！能画公式解数学题，监控画面都能伪造
Nano Banana 2代以预览版现身第三方网站，后被移除。其能力远超1代，能处理复杂提示，可生成复杂UI、解数学题甚至伪造监控画面。谷歌正将Nano Banana整合进核心产品生态。
Anthropic 发布最新研究：LLM 展现初步自省迹象
Anthropic 最新研究表明，Claude 展现出真实但有限的内省能力，能在某种程度上识别自己内部状态。研究团队开发验证方法，通过概念注入等实验进行测试，还发现认知控制证据等，不过该能力有局限。
连马桶都会看图说话了，巨头敢卖，你敢坐么？
老牌卫浴巨头科勒发布马桶相机Dekoda，599美元，拍照识别屎尿分析健康，还能区分用户。此外，Throne等公司也有相关产品。这些产品定位健康管理，不过面临信任、算法准确性等挑战。
Browser Use 推出 Code Use：直接用代码控制浏览器
Browser Use 发布 0.9.0 版本，推出专为爬取数据设计的 Code Use。它开发特殊 Agent 和定制 LLM 输出特定代码，通过 CDP 直接操控浏览器，效率和准确性理论上更高，还给出使用示例，同时提醒了安全问题。
Transformer作者：DeepSeek才有搞头，OpenAI指望不上了
Transformer发明者Ashish Vaswani认为OpenAI等闭源厂商被商业化冲昏头脑，没心思做基础研究。他All in基础研究，坚持开源路线，想打造西方世界的DeepSeek。其团队论文提出颠覆性观点，或降低训练成本。
OpenAI解释LLM为什么会有幻觉
OpenAI和佐治亚理工联合论文《Why Language Models Hallucinate》深入探讨LLM幻觉根源，指出预训练阶段统计本质和评估体系激励扭曲是主因，还提出改革评估体系引入显式置信度目标的解决方案。
GitHub 1.8W star爆款！不到2M，win系统高级感拉满！
TranslucentTB是为Windows系统设计的开源轻量级工具，主打任务栏透明化。它资源占用低，功能丰富，有多种视觉效果、能智能动态切换等，还提供多种安装渠道。
硅谷惊变：12万张H100的挽歌
这是虚构故事，Meta用12万张英伟达H100训练“LLaMA 4 Maverick”，却被中国杭州DeepSeek团队用2000张GPU打败。项目失败成丑闻，扎克伯格成立实验室四处收购遇冷，新负责人管理混乱，实验室乌烟瘴气。
身家25亿刀，是四家公司创始人，这位伯克利教授还在给本科生上课
加州大学伯克利分校教授 Ion Stoica 一边教书，一边多次创业成功。他是四家公司联合创始人，包括独角兽企业 Databricks 和 Anyscale。他带领实验室做研究，其创立的 LMArena 获 1 亿美元风投。
Kubernetes 引入后量子支持的 TLS
Kubernetes推出增强功能，通过与KMS插件系统集成的混合密钥交换机制支持后量子密码学，应对量子计算对加密协议的威胁，确保系统能随密码学标准演变灵活适应，此举措符合相关建议。