「身份安全」共找到 1004 篇相关文章
NeurIPS 2025｜指哪打哪，可控对抗样本生成器来了！
近日，清华大学和蚂蚁数科在NeurIPS上联合提出Dual - Flow新型对抗攻击生成框架。它能从海量图像数据学“通用扰动规律”，对多模型、多类别发起黑盒攻击，为AI安全带来挑战，已用于蚂蚁数科产品。
硅谷一线创业者内部研讨：为什么只有 5%的 AI Agent 落地成功，他们做对了什么？
来自硅谷一线AI创业者数据显示，95%的AI Agent在生产环境部署失败，原因在于围绕模型搭建的脚手架不完善。文章基于研讨会内容，探讨AI Agent构建关键，如上下文工程、安全控制、记忆功能等，并指出待解决问题和未来方向。
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
技术大神用纯Rust从零构建了LLM，在GitHub上大火
Python是AI界宠儿，Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM，在GitHub上火了。Rust弥补了C/C++和Python的不足，Rust社区LLM项目增多，巨头也在布局。
ChatGPT又突发俩CEO了？纯属扯淡，根本啥大洗牌
The Verge报道，前Meta高管Fidji Simo将以应用线CEO身份接手ChatGPT等业务。这并非大洗牌，而是OpenAI强化产品端能力的举措。此次调整像架构重构，还可能带来商业化变化，也被视为IPO预备动作。
无需标注和奖励模型！仅靠自信度RL，16个样本训练20步，效果飙升21%！
论文提出RLSC，让大语言模型用自身答案置信度作奖励信号，摆脱人类标注依赖。它以模型自信度内部信号替代多数投票外部信号，小成本提升模型数学能力，还让模型学会快推理，不过也存在安全隐忧。
对话Persom张天翊：我想做一个人在数字世界的身份证｜甲子光年
本文是甲子Builders对Intuition Lab创始人张天翊的专访，讲述他前次AI创业失败后，瞄准AI缺少用户上下文的痛点，推出开源Personal Model，即将内测AI记忆产品Persom，打造数字世界个人身份层，重构人与AI协作模式。
菲尔兹奖得主预警：AI可能杀死数学！
今年菲尔兹奖得主多伦多大学教授Jacob Tsimerman宣布加入OpenAI从事AI安全研究，因其认为2年内AI将在数学证明领域超越人类。陶哲轩、Timothy Gowers等也对此表示担忧。《莱顿宣言》发布，众多数学家签名抵制AI对数学的冲击。
OpenAI博通联手发芯片，黄仁勋还能保持松弛吗？
OpenAI与博通联手发布自研推理芯片Jalapeño，英伟达虽业绩亮眼但正被围攻。博通的ASIC芯片及通信优势、中立身份受青睐，OpenAI和Anthropic也正脱离英伟达管控，博通靠“芯片自主权外包”模式上位。
末日来临，会古法编程的我成了救世主
文章介绍网络小说《AI 编程末日，只有我会古法编程》，讲述 2038 年超级 AI 接管代码生产后自毁，全球瘫痪，前腾讯工程师凭手写代码拯救世界。还探讨作者身份，分析不同阶段程序员对 AI 的焦虑，指出小说预言正成现实。