「软件安全」共找到 1440 篇相关文章
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
技术大神用纯Rust从零构建了LLM，在GitHub上大火
Python是AI界宠儿，Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM，在GitHub上火了。Rust弥补了C/C++和Python的不足，Rust社区LLM项目增多，巨头也在布局。
英伟达联手QCI搞大事：量子应用能在真机前先模拟纠错
量子电路（QCI）公司联合NVIDIA，将CUDA - Q编程能力集成到Aqumen软件套件。QCI的双轨量子比特设计易纠错，有检测、控制流、处理错误三大功能。二者结合能让开发者在真机前模拟纠错，加速量子计算商业化。
AI终端驱动下的芯片产业：新周期的起点与方向｜甲子引力X
在8月21日的投资大会上，六位半导体领域顶级投资人剖析AI时代芯片破局路。他们认为中国虽在核心制造与软件生态是“跟随者”，但贴近终端等构成独特优势，还探讨突破壁垒、应对困境之法及未来投资方向。
DeepSeek 新模型曝光，即将发布
据彭博社消息，年初凭 R1 模型震动全球的 DeepSeek 正开发全新 AI Agent 模型，创始人推动团队在今年四季度发布。该模型能代表用户执行多步骤操作、基于过往行为学习改进，行业也在向 Agent 软件转型。
一年成爆款，狂斩 49.1k Star、200 万下载：Cline 不是开源 Cursor，却更胜一筹？！
AI编程助手市场看似火热，实则盈利艰难，如Cursor等工具亏本运营。Cline选择开源，坚持软件免费、服务变现，一年成爆款。其创始人分享了产品理念、技术选型、市场定位等，还探讨了MCP生态、编程智能体发展等话题。
一个Dispatch Dtype引起的fp8 quant kernel性能问题
文章记录SGLang社区在sgl-kernel中解决的fp8 quant kernel性能问题，因错误使用`c10::Float8_e4m3fn`数据类型，未用硬件加速指令，通过软件调用致性能下降，现已修复，vLLM也应用此修复。
无需标注和奖励模型！仅靠自信度RL，16个样本训练20步，效果飙升21%！
论文提出RLSC，让大语言模型用自身答案置信度作奖励信号，摆脱人类标注依赖。它以模型自信度内部信号替代多数投票外部信号，小成本提升模型数学能力，还让模型学会快推理，不过也存在安全隐忧。
菲尔兹奖得主预警：AI可能杀死数学！
今年菲尔兹奖得主多伦多大学教授Jacob Tsimerman宣布加入OpenAI从事AI安全研究，因其认为2年内AI将在数学证明领域超越人类。陶哲轩、Timothy Gowers等也对此表示担忧。《莱顿宣言》发布，众多数学家签名抵制AI对数学的冲击。
全国首部“数据流通交易合规”标准，现公开征集起草单位和专家！
2026年是数据要素价值释放年，数据资产交易却面临合规与安全难题。中国电子商会归口、智合标准中心组织编制《企业数据要素流通交易合规指南》团体标准，涵盖多核心模块，有三大亮点，现征集起草单位和专家。