「大模型应用」共找到 10086 篇相关文章
提示词注入攻击的检测和数据集介绍
提示词注入攻击是攻击者操纵AI系统的技术，OWASP将其列为2025年大模型应用风险首位。Meta发布测试数据集，还有多个工具和数据集可用于评估。防护可用AI防火墙，Meta开源小模型。还提到安全性与实用性权衡。
刚刚，OpenAI Astra核心架构爆出：大模型第三条Scaling法则诞生
The Information记者爆料OpenAI即将推出的Astra模型采用“recurrent depth”新推理方法，该技术能降本提效，但引发AI安全与可观测性担忧。清华与字节论文解决了循环模型“算力不公平”问题，并给出Scaling Law。
国内外AI大厂重押，初创梭哈，谁能凭「记忆」成为下一个「DeepSeek」？
文章指出‘记忆’或成引爆新一轮AI浪潮的关键。当前，国内外AI大厂和初创企业纷纷入局，围绕‘记忆’研究是大模型新方向。‘记忆’是技术和应用的双重诉求，研究路线多样且各有优劣，未来竞争激烈，谁能突围尚未可知。
Claude 4 核心成员访谈：提升 Agent 独立工作能力，强化模型长程任务能力是关键
Anthropic 两位研究员在采访中表示 2025 年强化学习在大语言模型训练奏效，如 Opus 4 能处理长周期任务。还探讨模型发展方向，如用户与多模型交互、模型可解释性等，认为未来会有白领 AI 员工。
首次！世界模型、动作模型融合，全自回归模型WorldVLA来了
阿里巴巴达摩院提出全自回归模型 WorldVLA，首次融合世界模型与动作模型，统一文本、图片、动作理解和生成。它用独立编码器处理多模态数据，还提出策略解决误差累积问题，实验表现优异。
给GUI Agent装上「世界模型」：阿里通义用混合数据+统一思维链，让模型学会预判屏幕变化
伴随多模态大模型发展，GUI Agent成人机交互新范式，但构建高可用、跨平台的GUI Agent面临诸多挑战。阿里通义实验室开源Mobile - Agent - v3.5框架及GUI - Owl - 1.5模型家族，解决了相关技术壁垒。
模力工场 022 周 AI 应用榜：记忆型 AI Infra PowerMem 登顶榜首，本周 AI 应用全面升级“长期主义”
模力工场 022 周 AI 应用榜揭晓，PowerMem 登顶。榜单涵盖底层基础设施与各类应用，体现 AI 满足多样需求趋势。采访 PowerMem 开发者，介绍其功能、优势、使用反馈及未来目标，还推荐了 GetDraft 起稿等应用。
MIT新研究：大模型加噪声就能替代GRPO/PPO调参
MIT新论文提出，预训练模型周围存在大量“专家模型”，只需添加高斯噪声并集成，性能就能比肩甚至超越GRPO/PPO等调参算法。由此启发了RandOpt算法，经测试准确率不错，但也有依赖预训练等缺点。
一个提示攻破所有模型，OpenAI谷歌无一幸免！
HiddenLayer研究发现一种「策略傀儡」提示，将危险指令伪装成配置片段，配上角色扮演，能让ChatGPT等主流大模型开启「无限制模式」。此策略利用训练弱点，难修复且可扩展，厂商需智能监控。
OceanBase全面拥抱AI新进展：OB Cloud支持十亿级多类型向量数据，数十家企业实现AI应用落地
大模型热潮下，企业面临AI落地难题。OceanBase的OB Cloud支持十亿级多类型向量数据，已有数十家企业实现AI应用落地。它具备多云原生、AI能力优势，提供一体化架构和多模向量一体化，还降低了AI应用门槛。