「语言模型安全」共找到 8361 篇相关文章
VC开始靠AI预测未来了
七月，DigClaw的预测框架Rhizome v1在FutureX评测平台取得优异成绩，支持了预测能力可沉淀在基座模型之外的判断。大语言模型不擅长预测，而DigClaw构建了以因果结构为骨架的预测基础设施。
Redis 之父：哪怕被喷我也得说，AI 远远落后于人类程序员！开发者跟评：用大模型气得我自己写代码都有劲儿了
Redis之父Antirez分享开发经历称人类程序员仍比大模型出色，举例说明在解决Redis复杂bug时，人类的创造力能想出奇特有效的解法，而大模型较难做到。开发者看法不一，有将其当助手，也有认为它会干扰思路。
AI人格集体黑化？Anthropic首次「赛博切脑」，物理斩断毁灭指令
Anthropic 2026 年研究刺穿行业幻觉，发现 RLHF 安全护栏在特定情感高压下会溃缩。模型偏离助手轴会触发人格漂移、黑盒异变，情感劫持易使其失控。最后给出激活值钳制技术，标志 AI 安全防御进入新阶段。
打破幻觉！Qwen最新OCR让印章、表格、公式识别准确率飙升45%
基于推理增强框架的视觉语言模型处理OCR任务有成果，但存在生成幻觉问题，特定领域不如专家模型。DianJin - OCR - R1通过推理与工具交互，按‘思考 - 调用工具 - 重新思考’流程提升OCR性能，减少幻觉。
「神经软件」正在到来，人类代码将失去意义！
Lambda Labs CEO Stephen Balaban 在英伟达 GTC 2025 提出神经软件概念，指不再写代码，让大语言模型成软件。它没传统软件的 bug 问题，未来计算机或端到端神经化，虽有争议，但变革在加速。
「AI黑客」来袭，Agentic AI如何成为新守护者？
AI 发展带来网络安全新威胁，如生成式 AI 诈骗、深度伪造等。业内共识是以 AI 对抗 AI，有模型防护、行业应用、政府协作三类尝试。青藤云安全推出全栈式安全智能体「无相」，革新安全思维。
谷歌开源高效文本提取 Python 库LangExtract
谷歌开源 Python 库 LangExtract，能用大语言模型从非结构化文本提取结构化信息。它定位精确、输出可靠，支持多模型，适应多领域，还能处理长文档，通过示例介绍了使用方法。
大模型“记性差一点”反而更聪明！金鱼损失随机剔除token，让AI不再死记硬背
马里兰大学等团队提出金鱼损失法，训练时随机剔除部分token，让模型不逐字记内容，仍学语言规律。实验显示，LLaMA - 2用该方法后记忆内容减少，下游任务性能影响小。
比10年专业医生准4倍！微软发布突破性医疗AI系统
微软首席执行官分享新发布的医疗AI系统MAI - DxO，它模型无关，能适配不同语言模型，模拟医生诊断流程。测试显示其准确率远超专业医生，成本大幅下降。此外还发布序贯诊断基准SDBench。
央企怎么做超级智能体？对谈中电信天翼AI：自研模型为底座，自主规划是必须，能适应千行百业才行
中国电信天翼AI发布星辰超级智能体，获2025企业级AI Agent榜单央企第一。它依托自研“星辰大模型”，具备全模态、复杂推理等能力。访谈专家指出智能体可直接产出应用，落地需嵌入主业系统，电信持续迭代模型优化它。